Hallo Profis, ich bin gerade vergeblich dabei mittel C-Code (CC5X) einen AD-Spannungs-Wert vierstellig (zwei vor und zwei nach dem Komma) auf ein LCD-Display zu bringen. Leider ergeben sich in nachfolgenden Beispiel ab einem AD-Wert von ~152 (d.h. 2,99 auf der LCD-Anzeige) nicht nachvollziehbare Werte in der Zehntel-Stelle. AD-Dummy uns24; uns16 Zehner,Einer,Zehntel,Hundertstel; AD_Dummy = AD_Wert; AD_Dummy = AD_Dummy * 500; AD_Dummy = AD_Dummy / 255; Zehner = AD_Dummy / 1000; Temp = Zehner * 1000; AD_Dummy = AD_Dummy - Temp; Einer = AD_Dummy / 100; Temp = Einer * 100; AD_Dummy = AD_Dummy - Temp; Zehntel = AD_Dummy / 10; Temp = Zehntel * 10; Hundertstel = AD_Dummy - Temp; Hat jemand eine Idee woran dies liegen kann? Sind es etwa Rundungsfehler, und wenn ja, wie kann ich diese eliminieren? Ciao Oldwabbel
Bitte melde dich an um einen Beitrag zu schreiben. Anmeldung ist kostenlos und dauert nur eine Minute.
Bestehender Account
Schon ein Account bei Google/GoogleMail? Keine Anmeldung erforderlich!
Mit Google-Account einloggen
Mit Google-Account einloggen
Noch kein Account? Hier anmelden.