Kryterium Rayleigha, w powyższym słownym sformułowaniu, dotyczy rozdzielczości liniowej. Określa się je również dla rozdzielczości kątowej, ponieważ w rzeczywistych układach optycznych promienie tworzące nakładające się obrazy dyfrakcyjne nie są ściśle równoległe, chociaż kąt między nimi, w przypadku określania rozdzielczości, pozostaje bardzo mały. Dla obrazów dyfrakcyjnych powstałych po przejściu światła przez otwór kołowy warunek Rayleigha można zapisać wzorem
gdzie: – minimalny kąt między promieniami, których obrazy mają być rozróżnialne, czyli inaczej – ich odległość kątowa, – długość fali światła, – średnica otworu.
Ponieważ kąt jest bardzo mały, można zapisać w przybliżeniu:
Opis ilustracji Znaczenie poszczególnych części ilustracji znajdującej się po prawej stronie: A – dwa maksima dyfrakcyjne leżą tak blisko siebie, że ich linie zlewają się w jedną – są nierozróżnialne, B – linie są bardzo trudno rozróżnialne, C – spełnione jest kryterium Rayleigha (maksimum pierwszej linii pokrywa się z minimum drugiej) – linie są rozróżnialne, D – linie są wyraźnie rozróżnialne.