Samoloty te produkowano do 1970, łącznie zbudowano ich 188 oraz prototyp.
Uzbrojenie samolotu stanowiły 4 specjalnie zaprojektowane pociski R-4 (K-80) zwalczające cele na wysokościach 8–21 km (lecące do 8 km nad nosicielem) i odległości od 2 do 25 km, samonaprowadzane półaktywnie radiolokacyjnie (R-4R) lub termicznie (R-4T). Stacja radiolokacyjna wykrywała cel na odległości do 50 km
Z uwagi na trudności w przeszkalaniu załóg innych myśliwców na Tu-128, opracowano jego wariant szkolno-treningowy Tu-128UT. Kabina trzeciego członka załogi – instruktora została w nim umieszczona nietypowo w obniżonym nosie kadłuba, zamiast radiolokatora. W 1971 przebudowano na tę wersję 4 myśliwce oraz zbudowano dodatkowo 10 samolotów.
W celu zwiększenia skuteczności systemu, z uwagi na zmianę taktyki działania bombowców na loty na małych wysokościach, pod koniec lat 60. podjęto prace nad rozszerzeniem możliwości systemu. Na początku lat 70. opracowano modernizację Tu-128M (kompleks Tu-128S-4M, ze stacją radiolokacyjną RP-SM Smiercz-M i pociskami R-4RM i TM), lecz po długich próbach na uzbrojenie przyjęto ją dopiero w czerwcu 1979, po czym samoloty w jednostkach sukcesywnie zmodernizowano do nowego standardu. Wiele Tu-128M z nową radiostacją odróżniało się poziomym zakończeniem statecznika pionowego.