www.mikrocontroller.net

Forum: Mikrocontroller und Digitale Elektronik Compiler rechnet falsch Oder ich!


Autor: Phil (Gast)
Datum:

Bewertung
0 lesenswert
nicht lesenswert
Hi Leute,

warum kommt bei folgender Rechnung "-1" und NICHT 0 raus?
uint8_t x = 255;
int16_t y = -176, z = -690;
int16_t res = y - (z * (int32_t)x + 1000/2) /1000;
Taschenrechner und Excel zeigen -0,5.

Ist das nicht 0 bei nem int16_t ???

: Verschoben durch Admin
Autor: hugo (Gast)
Datum:

Bewertung
0 lesenswert
nicht lesenswert
rundung ? :)

Autor: Klaus (Gast)
Datum:

Bewertung
0 lesenswert
nicht lesenswert
Wenn ich das in den Taschenrechner eintippe (und vor allem die 
int-Division richtig mache), kommt auch -1 raus.  Es gibt keine 
Nachkommastellen bei int, also schmeiß die beim nachrechnen sofort bei 
der Division raus! Und nicht erst damit weiter rechnen und am Ende 
rausstreichen.

Merke: der Compiler hat immer* recht!

*In 99,9999% der Fälle. Und die Fälle wo er nicht recht hat, sind dann 
meistens komplizierte, selten genutzte Spezialfälle der Sprache.

Und, merke auch: Wer bei einfachen Bugs nach Compilierfehlern schreib, 
brandmarkt sich selber als Anfänger ;-)

Autor: Phil (Gast)
Datum:

Bewertung
0 lesenswert
nicht lesenswert
ich habs:

int16_t res = ((int32_t) y * 1000 - (z * (int32_t)x + 1000/2)) /1000;

:-)

Antwort schreiben

Die Angabe einer E-Mail-Adresse ist freiwillig. Wenn Sie automatisch per E-Mail über Antworten auf Ihren Beitrag informiert werden möchten, melden Sie sich bitte an.

Wichtige Regeln - erst lesen, dann posten!

  • Groß- und Kleinschreibung verwenden
  • Längeren Sourcecode nicht im Text einfügen, sondern als Dateianhang

Formatierung (mehr Informationen...)

  • [c]C-Code[/c]
  • [avrasm]AVR-Assembler-Code[/avrasm]
  • [code]Code in anderen Sprachen, ASCII-Zeichnungen[/code]
  • [math]Formel in LaTeX-Syntax[/math]
  • [[Titel]] - Link zu Artikel
  • Verweis auf anderen Beitrag einfügen: Rechtsklick auf Beitragstitel,
    "Adresse kopieren", und in den Text einfügen




Bild automatisch verkleinern, falls nötig
Bitte das JPG-Format nur für Fotos und Scans verwenden!
Zeichnungen und Screenshots im PNG- oder
GIF-Format hochladen. Siehe Bildformate.
Hinweis: der ursprüngliche Beitrag ist mehr als 6 Monate alt.
Bitte hier nur auf die ursprüngliche Frage antworten,
für neue Fragen einen neuen Beitrag erstellen.

Mit dem Abschicken bestätigst du, die Nutzungsbedingungen anzuerkennen.