Durch einen AD-Wandler können Spannungen nur in bestimmten diskreten Stufungen wahrgenommen werden. Dies sind die Quantisierungsintervalle. Der zu messende Bereich wird also quantisiert (in diskrete Bereiche aufgeteilt). Der Quantisierungsfehler ist die Abweichung der wahren Spannung von der durch den AD-Wandler gemessene Spannung.

Beispiel: Es wird eine Spannung gemessen, die U_W = 1,85V beträgt. Der Messbereich des AD-Wandlers liegt zwischen 0V und 5V. Es handelt sich um einen 8Bit Wandler. Die Spannung wird in 2⁸ = 256 Spannungsstufen aufgeteilt. Eine Spannungsstufe hat dann die Breite von

Allgemein gilt die Beziehung zwischen der Eingangsspannung des ADC U_W und dem gemessenen Digitalwert n

Daraus folgt

Da n keine ganze Zahl ist liegt ein Quantisierungsfehler vor, es wird gerundet:

n = 95

Der gemessene Wert liegt bei

Der absolute Quantisierungsfehler beläuft sich also auf

A_quant = U_M - U_W = 1,855V - 1,85V = 5mV

Der relative Quantisierungsfehler beläuft sich also im Bezug auf die wahre Spannung auf

Der maximale Quantisierungsfehler eines idealen AD-Wandlers liegt prinzipbedingt bei +/- 0,5 LSB. Dieser Fall wird erreicht, wenn sich die wahre Eingangsspannung in der Mitte eines Quantisierungsintervalls (Spannungsbereich) befindet. Reale AD-Wandler haben je nach Qualität bisweilen noch grössere Quantisierungsfehler.