Wie kann man Rundungsfehler des Compilers vermeiden?

Gast #1021400
Mit Fließkommazahlen zu Rechnen bring nur Nachteile wenn der µC keine 
FPU hat.

Intern rechnet der µC ohne FPU mit Integerzahlen, also heißt das, das 
der Compiler die Fließkommaberechnung mit einer Bibliothek in eine Folge 
von Intergerberechnungen aufschlüsselt.
Gewinn daraus ist nur eine theoretisch höhere Genauigkeit.
Verlust daran ist ein gewaltiger zusätzlicher Bedarf an Programmgröße 
und Rechenzeit.

Ohne FPU ist die Integerberechnung das Mittel der Wahl. Beschreibungen 
und Erklärungen spare ich mir hier, das wurde schon zu oft diskutiert 
und sind mit etwas suchen erreichbar.



Tom:

10L*600L/932L das ist der richtige Weg.
geringeren Rundungsfehler lässt sich noch mit Skalieren erreichen.
Das wäre dann zb so:
((10L*600L * 2^8)/932L)/2^8
2^x deshlab weil dies eine einfache Shiftoperation um x Stellen ist.

Antwort schreiben

Eine eigene Frage? Dieser Thread ist über 18 Jahre alt. Stell sie in einem eigenen Thread – dort lesen mehr Leute mit, und sie wird öfter und schneller beantwortet.

Neuen Thread starten

Eine Lösung, Ergänzung oder Rückmeldung zu diesem Thread? Dann antworte hier.

Formatierung
  • [c]C-Code[/c]
  • [code]Code in anderen Sprachen, ASCII-Zeichnungen[/code]
  • [math]Formel in LaTeX-Syntax[/math]
  • [[Titel]] – Link zu einem Artikel
  • Verweis auf einen anderen Beitrag: Rechtsklick auf dessen Beitrags-ID (#8078628), „Adresse kopieren“, in den Text einfügen

Mehr zur Formatierung

Längeren Sourcecode als Anhang, nicht in den Text. JPG nur für Fotos und Scans; Zeichnungen und Screenshots als PNG oder GIF. Siehe Bildformate.

Schon registriert? Anmelden

Wird nicht angezeigt. Wir schicken dir einen Link; sobald du damit bestätigst, erscheint dein Beitrag.

Mit dem Abschicken legst du einen kostenlosen Account an und erkennst die Nutzungsbedingungen und die Datenschutzerklärung an.