22 marca 1956 r. Grigorij Siedow dokonał oblotu nowej konstrukcji. Kolejnym rozwinięciem konstrukcji była wersja oznaczona jako Je-4. Wyposażono ją w przekonstruowane skrzydła – skośne zamieniono na układ delta. Konieczne było przekonstruowanie podwozia i wewnętrznych zbiorników paliwa. 16 czerwca 1956 r. nastąpił oblot tej wersji przez Grigorija A. Siedowa. W płatowcu Je-4 zamontowano nowy silnik RD-11, który został również oblatany 9 stycznia 1956 r. przez Władmimira Niefiodowa jako wersja Je-5 i wykazał lepsze osiągi, sterowność, stateczność i sztywność konstrukcji od poprzednika. 24 czerwca 1956 r. samoloty Je-2A, Je-4 i Je-5 zostały zaprezentowane publicznie podczas parady z okazji Dnia Lotnictwa w Tuszyno.
Na bazie Je-4 w 1958 r. zbudowano wersję Je-6 z silnikiem R-11F-300, który traktowano już jako prototyp samolotu myśliwskiego. Samolot został oblatany przez Władmimira Niefiodowa, wykazał zadowalające osiągi, ale w katastrofie z 28 maja 1958 r. zginął oblatywacz. Przyczyną katastrofy było zgaśnięcie silnika po pompażu i kapotaż przy lądowaniu. Konstruktorzy przebudowali wlot powietrza do silnika oraz awaryjny układ sterowania, nowa wersja oznaczona jako Je-6/3 została oblatana w grudniu 1958 r. w Krasnowodsku.