Formel führt zu Rundungsfehler?

Andreas schrieb:

> //Problembringende Formel:
> servo_timer_value[servo_number] =
> (uint64_t)(data_long * (uint16_t)(SIG_0_7MS - SIG_2_3MS))/5535 +
> SIG_2_3MS;          }
> ...

Ohne konkrete Werte für data_long bzw. der Kenntnis von SIG_0_7_MS und 
SIG_"_3MS kann man da gar nichts sagen.
Der Cast nach uint64_t kommt aber auf jeden Fall zu spät, wenn seine 
Aufgabe darin bestehen soll eventuelle Überläufe in der uint16_t 
Berechnung der Multiplikation zu verhindern und ist als solcher komplett 
sinnlos.

In welchem Zahlenraum eine Berechnung durchgeführt wird, bestimmen die 
Datentypen der beteiligten Operanden und nicht was mit dem Ergebnis 
gemacht wird.

  data_long                           ist ein uint16_t
  (uint16_t)(SIG_0_7MS - SIG_2_3MS)   ist ein uint16_t

Also wird die Multiplikation als uint16_t Multiplikation durchgeführt. 
Und wenn die mit den konkreten Zahlen überläuft, dann läuft sie über. 
Der nachfolgende Cast des Ergebnisses auf uint64_t ändert daran nichts 
mehr.
(BTW: Das Ergebnis der Multiplkation zweier 16-Bit Zahlen kann maximal 
32 Bit aufweisen. Hat man es daher mit uint16_t zu tun, ist man mit dem 
Cast eines der Operanden [oder beide] auf uint32_t immer auf der 
sicheren Seite. Weiß man allerdings, dass bedingt durch die Zahlenwerte 
die Multiplikation nicht überlaufen kann, dann muss man gar nichts 
unternehmen)

Andreas schrieb:

>

1

> ((uint64_t)data_long * (uint64_t)(SIG_0_7MS - SIG_2_3MS))/5535 +

2

> SIG_2_3MS;

3

>

uint32_t reicht.
16 Bit * 16 Bit  kann maximal ein 32 Bit Ergebnis liefern.

Andreas schrieb:
> Wie handelt der Compiler eigentlich gänzlich ohne Casts?

Er bohrt alle Teilausdrücke auf den größten vorkommenden Datentyp auf - 
deswegen reich ein Cast.

Wenn der größte Datentyp zu klein ist, gibts einen Überlauf, um den sich 
C nicht weiter kümmert.

Uhu Uhuhu schrieb:
> Andreas schrieb:
>> Wie handelt der Compiler eigentlich gänzlich ohne Casts?
>
> Er bohrt alle Teilausdrücke auf den größten vorkommenden Datentyp auf -
> deswegen reich ein Cast.

Wobei 'alle Teilausdrücke' besser durch 'jede einzelne Operation' 
ersetzt wird.
Je nach Datentypen kann es also sein, dass verschiedene 
Zwischenergebnisse in einem komplizierterem Ausdruck unterschiedliche 
Datentypen haben.

Und ach ja: Das Minimum ist int. Kleiner wird nicht gerechnet.

Hallo,

Es wird ja der Wert von data_long auf den Werte Bereich passend zu 0.7 
bis 2.3 ms skaliert.

1

((uint32_t)data_long * (SIG_0_7MS - SIG_2_3MS))/65535 + SIG_2_3MS;

waere shift right um 16 Stellen, also die Division durch 65536, nicht 
einfacher und ausreichend genau, die Abweichung ist ja nur 1/65536 also 
fast 1e-5.
Ausserdem sind es schlussendlich nur Werte zwischen SIG_2_3MS und 
SIG_0_7MS,
die ja nur 0xb820..0xea20 = 0x3200 ueberstreichen.

1

((uint32_t)data_long * (SIG_0_7MS - SIG_2_3MS))>>16 + SIG_2_3MS;

Man koennte ja auch runden ;-)

1

(((uint32_t)data_long * (SIG_0_7MS - SIG_2_3MS) + 1<<15)>>16  + SIG_2_3MS;

Die Aufloesung ist also nur 12800 verschiedene Werte und nicht 65536.