|
Anzeige
|
AVR GCC Rechenfehler?
Gast
#3591861
Hallo, folgende Zeile liefert falsche Ergebnisse: u16_adcBatt = (ADCH * 330) / 256; ebenso u16_adcBatt = (ADCH * 330) >> 8; Wenn das ganze schrittweise gerechnet wird, ist das Ergebnis korrekt: u16_adcBatt = (ADCH * 330); u16_adcBatt = u16_adcBatt / 256; Kann jemand erklären, warum das so ist? Besten Dank! Sören
Gast
#3591876
Es kommt dann so etwas wie 0xFFC8 raus, wenn ein Wert um ca. 0x0082 erwartet wird.
Gast
#3591877
Was liefert u16_adcBatt = ((unsigned int)ADCH * 330) / 256; ? Sören schrieb: > Kann jemand erklären, warum das so ist? Es hängt mit vermutlich mit Datentypen und Wertebereichen zusammen. > folgende Zeile liefert falsche Ergebnisse: > u16_adcBatt = (ADCH * 330) / 256; Welche denn? Für welchen Prozessor?
Gast
#3591882
Nach C Standard muss der Compiler zuerst ADCH in int umwandeln. Die meisten MC-Compiler rechnen aber mit 8 Bit Zahlen.
Gast
#3591884
Das scheint zu funktionieren. Und auch, wie ich eben gefunden habe, wenn u16_adcBatt = (ADCH * 330L) / 256; geschrieben wird. Jetzt funktioniert das zwar, danke für die schnelle Hilfe! Aber ich verstehe noch nicht, wo das Problem lag. Sören schrieb: > folgende Zeile liefert falsche Ergebnisse: > u16_adcBatt = (ADCH * 330) / 256; (ADCH * 330) wird als int gerechnet und läuft über. 100 * 330 = 33000 > 32767 > Wenn das ganze schrittweise gerechnet wird, ist das Ergebnis korrekt: Nö, nicht bei z.B. ADCH=255.
Gast
#3591890
Verstehe. Und was macht bei der zweiten Möglichkeit das 330L? Damit geht's dann nämlich auch. Sören schrieb: > Verstehe. Und was macht bei der zweiten Möglichkeit das 330L? Damit > geht's dann nämlich auch. Wird als long gerechnet und läuft nicht über.
Gast
#3591895
OK, wieder was gelernt! Euch vielen Dank für die Hilfe und Geduld. Antwort schreibenBitte melde dich an, um einen Beitrag zu schreiben. |
Anzeige
|
