|
Anzeige
|
AVR int DivisionHallo zusammen, ich habe hier ein kleines Verständnisproblem bei der Division zweier vorzeichenbehafteter Integer Konstanten und der anschließenden Multiplikation mit dem Faktor 2^12. Ich erhalte nur dann das korrekte Ergebnis, wenn ich entweder a, oder b, oder beide Konstanten vor der Division als float caste. Ich versteh einfach nicht, warum das so ist. Wäre super, wenn mir hier wer auf die Sprünge helfen könnte. Als Controller kommt ein Atmega32A zum einsatz.
Gast
#4165399
Int / int = int Bei a/b kommt ne 1 raus. Ist einer der beiden float wird float dividiert. Gruss Ahhh, klar, das macht Sinn! Danke für die schnelle Antwort Man sollte hier auf Float verzichten und bei integer bleiben. Einfach so umformen, dann man nur minimal verliert. c : = (a/b - 1 ) * 4096 c : = ((4096 * a) div b) - 4096 c : = (a shl 12) div b - (1 shl 12) Jetzt Nicht schrieb: > Man sollte hier auf Float verzichten und bei integer bleiben. Einfach so > umformen, dann man nur minimal verliert. > > c : = (a/b - 1 ) * 4096 > c : = ((4096 * a) div b) - 4096 > c : = (a shl 12) div b - (1 shl 12) Aber nicht vergessen vorher auf int32 zu casten denn beim AVR ist int nur 16 bit und 16 bit reichen nicht bei so großen Zahlen.
Gast
#4165586
Das Ganze ist im Übrigen kein AVR-Problem, sondern eine ganz normale Eigenschaft der Ganzzahlarithmetik. Da ist 1000 / 600 immer 1. Üblicherweise behilft man sich, vor allem bei "längeren" Berechnungen damit die Werte - vorübergehend - zu erhöhen. Wichtig ist hierbei, dass man den möglichen Bereich nicht überschreitet. 1000 600 ist in der Zwischenrechnung mit 10000 600 = 16 Ein weiterer Trick ist die Berechnung so umzustellen, dass die Divisionen an anderer Stelle stattfinden. Dann wird: (1000 / 600) * 100 über (1) * 100 = 100 zu (1000 * 100) / 600 ==> 100000 / 600 = 166
Gast
#4165591
Bernd K. schrieb: > Jetzt Nicht schrieb: >> Man sollte hier auf Float verzichten und bei integer bleiben. Einfach so >> umformen, dann man nur minimal verliert. >> >> c : = (a/b - 1 ) * 4096 >> c : = ((4096 * a) div b) - 4096 >> c : = (a shl 12) div b - (1 shl 12) > > Aber nicht vergessen vorher auf int32 zu casten denn beim AVR ist int > nur 16 bit und 16 bit reichen nicht bei so großen Zahlen. Jetzt Nicht Antwort schreiben |
Anzeige
|
