|
Anzeige
|
16-bit Variable manipulieren
Gast
#1590457
Hallo, was passiert, wenn ich eine 16-bit Variable so manipuliere, dass der Wert über 16-bit hinausgeht. Bsp.: Ich addiere zu 60000 den Wert 6000. Die Variable kann aber nur 65535 fassen. Ist der Wert der Variable dann 66000-65535= 465? Kann man so immer bei einem Variablenüberlauf rechnen, vorrausgesetzt man rechnet unsigned?
Gast
#1590458
Bei unsigned Variablen kannst du immer mit dem Überlauf rechnen.
Gast
#1590459
Mist vergessen: Ich würde das ganze mit Modulo rechnen: z.B: 66000%65535
Gast
#1590467
> Ist der Wert der Variable dann 66000-65535= 465?
Nein. Er ist 66000-65536=464.
Gast
#1590506
Genmutant schrieb:
> Mist vergessen: Ich würde das ganze mit Modulo rechnen: z.B: 66000%65535
Die Frage ist ja schon beantwortet, aber was mich neugierig macht, wieso
mit Modulo?
Ich dachte Divisionen brauchen sehr viel Rechnenzeit? Und Modulo ist ja
letztendlich eine Restbildung durch Division?!?
Gast
#1590508
Ich dachte du wolltest es von Hand rechnen... aber es hat den Vorteil, dass es auch funktioniert, wenn deine Variable mehrfach überlaufen würde. Steven L. schrieb: > Genmutant schrieb: >> Mist vergessen: Ich würde das ganze mit Modulo rechnen: z.B: 66000%65535 > > > Die Frage ist ja schon beantwortet, aber was mich neugierig macht, wieso > mit Modulo? Weil das im allgemeinen Fall auch funktioniert. zb wie lautet das Ergebnis, wenn du einen Winkel von 3867 Grad auf 0 bis 360 Grad normierst. (Im Prinzip ist das nämlich auch dieselbe Operation) > Ich dachte Divisionen brauchen sehr viel Rechnenzeit? Und Modulo ist ja > letztendlich eine Restbildung durch Division?!? Aber er hat einen Fehler gemacht. Die Modulo Division würde durch 65536 dividieren, nicht 65535. Da aber 65536 eine 2-er Potenz ist, weiß auch der Compiler, dass er dasselbe Ergebnis durch geeignete einfachere Aktionen erreichen kann. Antwort schreiben |
Anzeige
|
