Hallo, habe gerade den Betreg "konstanter Wert - Wer rechnet hier ? "gelesen. Wenn ich z.B. rechnen lasse 10/932*600 rechnen lasse - bisher mache ich das immer (10L*600L/932L) - gibt es da noch andere Möglichkeiten? Gruß Tom
ich gehe jetzt mal davon aus das du mit c arbeitest .... dann rechnest du da grade mit integern... macht es klick ;) ? mach mal float oder double raus ...
Mit Fließkommazahlen zu Rechnen bring nur Nachteile wenn der µC keine FPU hat. Intern rechnet der µC ohne FPU mit Integerzahlen, also heißt das, das der Compiler die Fließkommaberechnung mit einer Bibliothek in eine Folge von Intergerberechnungen aufschlüsselt. Gewinn daraus ist nur eine theoretisch höhere Genauigkeit. Verlust daran ist ein gewaltiger zusätzlicher Bedarf an Programmgröße und Rechenzeit. Ohne FPU ist die Integerberechnung das Mittel der Wahl. Beschreibungen und Erklärungen spare ich mir hier, das wurde schon zu oft diskutiert und sind mit etwas suchen erreichbar. Tom: 10L*600L/932L das ist der richtige Weg. geringeren Rundungsfehler lässt sich noch mit Skalieren erreichen. Das wäre dann zb so: ((10L*600L * 2^8)/932L)/2^8 2^x deshlab weil dies eine einfache Shiftoperation um x Stellen ist.
Bitte melde dich an um einen Beitrag zu schreiben. Anmeldung ist kostenlos und dauert nur eine Minute.
Bestehender Account
Schon ein Account bei Google/GoogleMail? Keine Anmeldung erforderlich!
Mit Google-Account einloggen
Mit Google-Account einloggen
Noch kein Account? Hier anmelden.