10 Bit ADU Ausgansgswert bestimmen

Saltlake schrieb:
> Allerdings komme ich nicht auf das Ergebnis.

Wie bist du denn zu deinem Ergebnis gekommen und was kommt bei dir raus?
Oft hilft eine einfache Graphik.

Ich hab's. Tipp: der eine Fehler bezieht sich auf die eine Spannung, der 
andere auf die andere - wie logisch.
Ohne Fehlerbetrachtung kommt 0x266 (614,400) heraus.
Mit  Fehlerbetrachtung kommt 0x24E (590,769) heraus (gerundet 0x24F)
Aber über die Vorzeichen in der Fragestellung kann man diskutieren.

Der Offset ist ein Versatz, also eine Konstante, die du
zum Input-Wert addieren musst.

Mal schauen, mit welchen Vorzeichen dein Prof denkt:

Offset = 0 mV
3,000 V / 5,000 V = 0,6
0,6 * 1024 = 614 = 0x0266

Offset = Konstante = +150 mV
3,150 V / 5,000 V = 0,63
0,63 * 1024 = 645 = 0x0285

Offset = Konstante = -150 mV
2,85 V / 5 V = 0,57
0,57 * 1024 = 584 = 0x0248 - kommt der Lösung näher!


Dann der Verstärkungsfehler von 0,060 V auf 5.000 V:

5,000 V + 0,060 V = 5,060 V:
2,850 V / 5,060 V = 0,563
0,563 * 1024 = 577 = 0x0241

5,000 V - 0,060 V = 4,940 V:
2,850 V / 4,940 V = 0,577
0,577 * 1024 = 590,7
590 = 0x024E

Der Prof will wohl:
ADC = 1024 * ((Istwert - Offset) / (Uref + V-Fehler))
ADC = 1024 * ((3000 - +150) / 5000 + -60))
ADC = 1024 * (2850 / 4940) = 490,77
ADC = 490 = 0x024E

Vorzeichen sind ja nicht immer plausibel, besonders bei
deinem Prof...

Oh, da haben sich in den letzten Zeilen (ist spät!!)
Tippfehler eingeschlichen. Korrektur:

Der Prof will wohl:
ADC = 1024 * ((Istwert - Offset) / (Uref + V-Fehler))
ADC = 1024 * ((3000 - +150) / 5000 + -60))
ADC = 1024 * (2850 / 4940) = 590,77
ADC = 590 = 0x024E

Vorzeichen sind ja nicht immer plausibel, besonders bei
deinem Prof...