-
Artikel
Festkommaarithmetik
Allerdings hat man keine Referenzspannung oder Referenztemperatur. Das ist aber kein Beinbruch. Z.B. der LM74 hat eine Auflösung von 1/16°C = 0,0625°C. Um das Messergebnis ohne Verlust von Auflösung auszugeben könnte man als erstes den Digitalwert auf 1/100 °C umrechnen. Das geschieht mit der Multiplikation
Mehrfachabtastung (oversampling) mit Korrekturrechnung Beispiel, um vom 10-bit-ADC-Wert 1024 auf 5000 zu kommen: 5 mal abtasten und aufsummieren, dann vom Ergebnis 1/32 subtrahieren und 1/128 addieren: 5 * 1024 = 5120 5120 / 32 = 160 160 / 4 = 40 5120 - 160 + 40 = 5000 Division durch Konstanten. Manchmal