28 stycznia 1931 roku został przeniesiony z korpusu oficerów piechoty do korpusu oficerów uzbrojenia z pozostawieniem na zajmowanym stanowisku w Instytucie Badań Materiałów Uzbrojenia w Warszawie.
29 stycznia 1932 roku został mianowany podpułkownikiem ze starszeństwem z 1 stycznia 1932 roku i 3. lokatą w korpusie oficerów uzbrojenia. W 1932 był nadal oficerem Instytutu Badań Materiałów Uzbrojenia w Warszawie. Od 1932 do 1935 był kierownikiem Centrum Badań Balistycznych. W 1932 został wykładowcą balistyki na Politechnice Warszawskiej. Był redaktorem czasopisma „Przegląd Strzelecki i Łuczniczy”. Publikował w „Gazecie Lwowskiej”.
Po kampanii wrześniowej został aresztowany przez Sowietów. Był przetrzymywany w obozie w Kozielsku. W późniejszych wspomnieniach wskazywał na rozwijającą się działalność kulturalną, samokształceniową, odczytową, a nawet wydawniczą wśród osadzonych (o pogadance dla współosadzonych na temat „Grubej Berty” wspominał w zapisywanym dzienniku obozowym ppor. Andrzej Rieger. Na wiosnę 1940 polscy jeńcy z Kozielska zostali zgładzeni w ramach zbrodni katyńskiej. W tym czasie Felsztyn wraz z garstką ocalonych został przeniesiony do obozu jenieckiego NKWD w Pawliszczew Borze, następnie do Griazowca.