Hallo,
ich habe momentan ein merkwürdiges Problem mit float Operation.
Ich verwende einen MSP2013 und programmiere diesen über das CrossStudio.
Mein Problem ist jetzt, multipliziere ich zwei statische Werte bekomme
ich das richtige Ergebnis:
1 | fValue2 = 0.0179961 * 0.0518796765163;
|
Ergebnis: 0.000933632 [richtig]
Multipliziere ich jetzt aber eine Variable(fValue1 = 0.0179961) mit dem
zweiten statischen Wert, kommt ein fehlerhaftes Ergebnis heraus.
1 | fValue1 = 0.44775 * 0.44775 * 0.44775 * 0.44775 * 0.44775;
|
2 | fValue2 = fValue1 * 0.0518796765163;
|
Ergebnis: 0.000497699 [falsch]
Woran kann das liegen? Die Variablen sind als float deklariert und
initialisiert. Ich habe keine Ahnung was hier falsch sein soll
Danke