Po powrocie osiedlił się w Kalininie (obecnie Twer).

Pieriestrojka W czasie pieriestrojki, zainicjowanej przez Michaiła Gorbaczowa, Kowalowowi pozwolono na powrót do Moskwy, z czego skorzystał w 1986 roku. Kontynuował swoją działalność i założył kilka znaczących organizacji oraz inicjatyw humanitarnych:

Stowarzyszenie na rzecz obrony praw człowieka „Memoriał” dedykowane pamięci i rehabilitacji ofiar represji politycznych w ZSRR. Siergiej Kowaljow od 1990 był jego wiceprezesem. Moskiewski oddział Amnesty International. Był członkiem komitetu organizacyjnego Międzynarodowego Seminarium Humanitarnego (1987). Brał udział w tworzeniu klubu prasowego „Głasnost”.

W roku 1989 Andriej Sacharow rekomendował go jako współprzewodniczącego Grupy Projektowej Praw Człowieka przy Międzynarodowej Fundacji na Rzecz Przetrwania i Rozwoju Ludzkości – później przemianowanej na Rosyjsko-Amerykańską Grupę Praw Człowieka.

Rosja postradziecka Po rozpadzie ZSRR zaangażował się w oficjalną politykę. W styczniu 1991 roku współtworzył Deklarację Praw Człowieka i Obywatela oraz odegrał wiodącą rolę przy opracowaniu jednego z rozdziałów obecnej Konstytucji Rosji pt.