Hallo, was passiert, wenn ich eine 16-bit Variable so manipuliere, dass der Wert über 16-bit hinausgeht. Bsp.: Ich addiere zu 60000 den Wert 6000. Die Variable kann aber nur 65535 fassen. Ist der Wert der Variable dann 66000-65535= 465? Kann man so immer bei einem Variablenüberlauf rechnen, vorrausgesetzt man rechnet unsigned?
Mist vergessen: Ich würde das ganze mit Modulo rechnen: z.B: 66000%65535
> Ist der Wert der Variable dann 66000-65535= 465?
Nein. Er ist 66000-65536=464.
Genmutant schrieb:
> Mist vergessen: Ich würde das ganze mit Modulo rechnen: z.B: 66000%65535
Die Frage ist ja schon beantwortet, aber was mich neugierig macht, wieso
mit Modulo?
Ich dachte Divisionen brauchen sehr viel Rechnenzeit? Und Modulo ist ja
letztendlich eine Restbildung durch Division?!?
Ich dachte du wolltest es von Hand rechnen... aber es hat den Vorteil, dass es auch funktioniert, wenn deine Variable mehrfach überlaufen würde.
Steven L. schrieb: > Genmutant schrieb: >> Mist vergessen: Ich würde das ganze mit Modulo rechnen: z.B: 66000%65535 > > > Die Frage ist ja schon beantwortet, aber was mich neugierig macht, wieso > mit Modulo? Weil das im allgemeinen Fall auch funktioniert. zb wie lautet das Ergebnis, wenn du einen Winkel von 3867 Grad auf 0 bis 360 Grad normierst. (Im Prinzip ist das nämlich auch dieselbe Operation) > Ich dachte Divisionen brauchen sehr viel Rechnenzeit? Und Modulo ist ja > letztendlich eine Restbildung durch Division?!? Aber er hat einen Fehler gemacht. Die Modulo Division würde durch 65536 dividieren, nicht 65535. Da aber 65536 eine 2-er Potenz ist, weiß auch der Compiler, dass er dasselbe Ergebnis durch geeignete einfachere Aktionen erreichen kann.
Bitte melde dich an um einen Beitrag zu schreiben. Anmeldung ist kostenlos und dauert nur eine Minute.
Bestehender Account
Schon ein Account bei Google/GoogleMail? Keine Anmeldung erforderlich!
Mit Google-Account einloggen
Mit Google-Account einloggen
Noch kein Account? Hier anmelden.