Kryterium Nyquista pozwala na określenie stabilności układu zamkniętego na podstawie badania charakterystyki amplitudowo-fazowej układu otwartego.
Rozważany jest zamknięty układ regulacji: thumb|300px|Zamknięty układ regulacji Zakłada się, że sprzężenie zwrotne w układzie zostaje rozłączone. Wyznacza się transmitancję operatorową otrzymanego układu otwartego: Zakłada się, że układ ma biegunów (miejsc zerowych mianownika transmitancji) w prawej półpłaszczyźnie zespolonej i biegunów w lewej (nie ma biegunów na osi urojonej). Transmitancję widmową układu otwartego oznacza się przez
Jeżeli spełnione są powyższe założenia, to układ zamknięty jest stabilny wtedy i tylko wtedy, gdy przyrost argumentu wyrażenia przy zmianie w zakresie od do jest równy co zapisuje się następująco:
Interpretacja geometryczna mały|Charakterystyki Nyquista układów o różnej stabilności Jeżeli układ otwarty jest stabilny: Układ zamknięty będzie stabilny wtedy i tylko wtedy, gdy charakterystyka amplitudowo-fazowa układu otwartego nie obejmuje punktu na płaszczyźnie zespolonej.