Beim Rayleigh-Kriterium geht man davon aus, dass sich zwei Beugungsscheibchen gleicher Intensität und Farbe noch trennen lassen, wenn das Minimum der ersten Nebenbeugung mit dem Maximum der zweiten zusammenfällt. Zwischen den beiden sich überlappenden Beugungsscheibchen fällt die Helligkeit auf 75 % des Maximalwertes ab. Dies entspricht immerhin noch einem Restkontrast von rund 14 % (des Ausgangskontrasts). Zwei Punkte lassen sich nur dann gerade noch trennen, wenn in der Abbildung ihre Maxima mindestens um den Radius r des Beugungsscheibchens auseinander liegen. Bei geringeren Objektkontrasten und bei Messapplikationen ist diese Aussage aber eher kritisch zu  bewerten.

Als beugungsbedingte Grenzauflösung der kann der Durchmesser des Beugungsscheibchens verwendet werden. Hier sind die Signal-Peaks der Beugungsmuster noch kaum überlagernd, der Restkontrast noch entsprechend hoch. Gerade bei nicht idealen Ausgangsbedingungen, wo nicht immer 100% Ausgangskontrast vorliegt, ist dies eine sinnvolle Annahme.

Der Radius des erste Neben-Minimums des Beugungsmusters an der kreisförmigen Blende errechnet sich aus:

R_min1 = 1,22 *  Wellenlänge des Lichts * effektive Blendenzahl

Der Durchmesser des Beugungsscheibchens ist also:

d= 2 * 1,22 * Wellenlänge des Lichts * effektive Blendenzahl

Der Durchmesser des Beugungsscheibchens und damit die theoretische, beugungsbedingte Grenzauflösung hängen also von der Wellenlänge, aber besonders extrem von der Blendenöffnung der Optik ab. Ab Blende 5,6 bis 8 sind diese Werte bereits größer als die Pixelstrukturen moderner digitaler Bildsensoren sind.

Auch der Bildaufnehmer der Kamera beeinflusst wesentlich die Grenzauflösung des Gesamtsystems.

Die theoretische Auflösung eines Kamerasensors wird dabei durch die Nyquist-Frequenz beschrieben:

NyquistFrequenz= 1 / ( 2*Pixelgröße)

Es muss laut Nyquist-Abtasttheorem zum Sampling eines Signals mehr als die doppelte Frequenz gegeben sein, um sich dem Ausgangssignal  sauber anzunähern. Analog gilt das Abtasttheorem auch genauso bei Bildern, wobei die Abtastfrequenz dann in Pixeln oder Linienpaaren/mm bestimmt werden kann.

Für die individuellen Pixelgrößen der Bildsensorik ergibt dies deutliche Unterschiede, wie viele Linienpaare pro Millimeter aufgelöst werden können, da die Pixelgrößen moderner Kamera-Sensoren in der industriellen Bildverarbeitung von ca. 3,5 bis 14µm reichen. Dies ergibt ein theoretisches physikalisches Auflösungsvermögen von 7 bis 28µm bei der Abbildung feinster Strukturen.

Doch dies alleine trifft nicht unbedingt eine Aussage über die Messgenauigkeit...

Ein schwieriges Thema! Die Grenzauflösung der Optik und des Sensors sind zu multiplizieren, so dass die MTF des Gesamtsystems immer unter der Abbildungsleistungs-limitierenden MTF liegt. Dies kann die Nyquistfrequenz des Sensors, aber auch die MFT der Optik sein. Leider kann jedoch der normale Anwender selten selbst MTF-Kurven ermitteln und nur die Ergebnis-Bilder betrachten.

In der Praxis heißt dies jedoch, dass feinste Objektstrukturen und die Übergänge der Objektkanten leicht verschwommen abgelichtet werden. Im Bild zeigen sich prinzipiell immer an den Objektkanten leichte Grauverläufe, die diese Unschärfebereiche darstellen.

Noch feinere Strukturen als 5-7µm sind jetzt zwar nicht unbedingt mehr erkennbar, allerdings kann unter idealen Voraussetzungen genauer als dieser Wert mit Hilfe von Sub-Pixeling-Verfahren (mathematische Interpolationen der Grautöne) gemessen werden! Ein Faktor von 3 bis 4 kann durchaus nochmals an Genauigkeit gewonnen werden, dieser Faktor ist jedoch alleine abhängig von der Qualität des dahinter stehenden Algorithmus.

In diesem Fall zeigt sich wiederum, dass möglicherweise ein Sensor mit größeren Pixeln, der theoretisch eine schlechtere Nyquist-Frequenz hat und damit weniger Linienpaare pro mm auflöst, ein wesentlich genaueres Messergebnis liefern kann aufgrund höherer Full-Well-Kapazität und geringerem Sensorrauschen.