Warum rechnet mein mega 8 falsch

Gast #833864
gar nichts habe ein probkem mit einen drucksensor

dort werden berechnungen gemacht um den druck zu errechnen.


z.b

sems=26051+822*170/2^10+24576

26051 lese ich vom sensor
die 822 auch.

in excel bekomme ich 50763 wie es sein soll
der avr bringt 5819

warun
#833903
822 * 170 = 139740
-> 0x221DC
--> (int)0x221DC = 0x21DC (= 8668)
8668 / 2^10 = 8 (Rest 476)

Merke: In einen int passen nur Zahlen von -32768...32767 rein.

BTW: In C werden zunächst alle Berechnungen in int durchgeführt, es 
sei denn, ein Operand besitzt einen größeren Datentyp oder man gibt dem 
Compiler explizit an, dass er die Berechnung in einem erweiterten 
Wertebereich durchführen soll (Suffixe L, UL, Zahlen in 
Gleitkommadarstellung o.ä.).
Gast #833909
Herrmann,

> wenn ich (822*170)/pow(2,10)
> bekomme ich 8

vielleicht solltest Du Dich erst einmal näher mit den Regeln der 
Ganzzahl-Arithmetik beschäftigen. Dann hast Du nicht so viel Frust, und 
die Ergebnisse werden auch besser.

Zunächst einmal: pow(2,10) macht niemand. Wozu die Rechenzeit 
investieren, wenn man das Ergebnis auch hinschreiben kann? Also 1024 
stattdessen.

Zweitens: Du hast bei ganzen Zahlen nur einen beschränkten Wertebereich.
822 * 170 sollte nach Deiner Meinung 139740 ergeben. Wenn ein int(eger) 
aber 16 bit ist, dann bekommst Du einen Überlauf, und das Ergebnis 
modulo 2 hoch 16 (=65536). Das ergibt dann 8668. Und wenn Du 8668 durch 
1024 teilst, dann kommt 8,46... raus. Und da wir mit ganzen Zahlen 
rechnen, eben die 8.

Du hast jetzt 2 Alternativen:

a) Du kannst mit Fließkomma rechnen. Dauert länger, ist aber u.U. 
vertretbar. Fließkomma hat den Datentyp "float" und eine Fließkomma-Zahl 
ist alles, was einen Punkt in der Zahl hat. Also eine Konstante "12" ist 
eine Festkommazahl, eine Konstante "12.0" ist eine Fließkommazahl.

b) Du könntest - wenn es Dir auf Geschwindigkeit oder Codegröße oder 
Ehrgeiz ankommt - mit 32bit Festkommazahlen rechnen. Der Datentyp dafür 
lautet "long", und eine long-Konstante erzeugst Du mit "12L".

Nur Mut, es ist nicht wirklich schwer.
Gast #833915
Du kannst auch einfach die Rechnung ein wenig umstellen, dann passt es 
auch wieder:

(822*34) / pow(2,10) * 5

(822*34) passt noch in einen Int
/1024
* 5

du rechnest also in 2 Schritten: erst mal 34, dann mal 5 ergibt zusammen 
mal 170.

Darunter leidet aber deine Auflösung, weil du beim teilen durch 1024 die 
Nachkommastellen verlierst :(
Gast #834111
Danke

Ich habe leider nur ein C Buch da steht drin das der int ein 32bit 
bereich hat.aber so ist es aber beim avr oder gcc nicht.

Hat jemand ein gutes buch für c und avr wo sawas drin steht????


Danke
#834617
Gast wrote:
>> Merke: In einen int passen nur Zahlen von -32768...32767 rein.
>
> Das stimmt so nicht, das hängt einfach vom Compiler ab.
Warum können sich gewisse Leute solche überflüssigen Postings nicht 
einfach kneifen? Es ist sonnenklar, dass es hier um AVR-µCs geht, und 
ich kenne keinen Compiler für diese Plattform, bei dem int nicht 16 
Bit breit ist!
Gast #834681
> Ich habe leider nur ein C Buch da steht drin das der int ein 32bit
> bereich hat.aber so ist es aber beim avr oder gcc nicht.

Dann ist das ein scheiß Buch. Es war schon immer so (C gibt es seit den 
70'ern) dass der Typ int die Lieblings-Wortbreite des verwendeten 
Prozessors hat. Der Autor kann also gar nicht wissen wie Breit ein int 
ist. Bei den heute üblichen PC-Prozessoren sind das 32 Bit, da hat der 
Autor schon recht. Vor ein paar Jahren (DOS/Win3.1 evtl. noch Win95/98) 
waren es typischerweise 16 Bit. 32 hätten die CPUs ab 386 schon gekonnt, 
die Standard-int breite wurde aber lange für die Programmierer 
beibehalten die sich drauf verlassen hatten dass ein int immer 16 Bit 
breit ist. Und es gab ein paar Großrechner mit so krummen Sachen wie 13 
oder 18 Bit. Und gerade C wird eben nicht nur für PCs benutzt.

Randy
Gast #835703
> Ich habe leider nur ein C Buch da steht drin das der int ein 32bit
> bereich hat.

Dann empfehle ich stattdessen "The C Programming Language" von Kernighan 
& Ritchie.

Im Standard ist eigentlich festgelegt, daß "short" 16 Bit hat und "long" 
32 Bit. Wie Randy schon schreibt, ist "int" Compiler-abhängig, d.h. der 
Compiler nimmt entweder "short" oder "long" dafür.

Antwort schreiben

Eine eigene Frage? Dieser Thread ist über 18 Jahre alt. Stell sie in einem eigenen Thread – dort lesen mehr Leute mit, und sie wird öfter und schneller beantwortet.

Neuen Thread starten

Eine Lösung, Ergänzung oder Rückmeldung zu diesem Thread? Dann antworte hier.

Formatierung
  • [c]C-Code[/c]
  • [code]Code in anderen Sprachen, ASCII-Zeichnungen[/code]
  • [math]Formel in LaTeX-Syntax[/math]
  • [[Titel]] – Link zu einem Artikel
  • Verweis auf einen anderen Beitrag: Rechtsklick auf dessen Beitrags-ID (#8078628), „Adresse kopieren“, in den Text einfügen

Mehr zur Formatierung

Längeren Sourcecode als Anhang, nicht in den Text. JPG nur für Fotos und Scans; Zeichnungen und Screenshots als PNG oder GIF. Siehe Bildformate.

Schon registriert? Anmelden

Wird nicht angezeigt. Wir schicken dir einen Link; sobald du damit bestätigst, erscheint dein Beitrag.

Mit dem Abschicken legst du einen kostenlosen Account an und erkennst die Nutzungsbedingungen und die Datenschutzerklärung an.