Umrechnung mit Kommastellen

Markus C. (ljmarkus) OP 30.05.2009 13:58 #1280997

Lesenswert?

•

Hallo.

für eine ADC Umrechnung versuche ich gerade folgendes:

die 9999 ist meine maximal anzeige.

factor = 9999/255;

out = factor * 255;


so nun kommt aber leider 9945 als anzeige raus.
Ich habe factor und out als double definiert.

Wo liegt mein Fehler ?

Danke, Markus

Antwort Zitieren Bearbeiten Thread verschieben Thread sperren Anmeldepflicht aktivieren Anpinnen Thread löschen Thread mit anderem zusammenführen Beitrag melden

Falk B. (falk) 30.05.2009 14:13 #1281016

Lesenswert?

•

▲
▼

Versuchs mal mit Festkommaarithmetik.

MfG
Falk

Antwort Zitieren Bearbeiten Löschen Beitrag melden

Jörg G. (joergderxte) 30.05.2009 14:33 #1281035

Lesenswert?

•

▲
▼

Hilft das:
 factor = 9999.0/255;
(Du hättest ja einfach mal "faktor" ausgeben lassen können...)

rtfm, Jörg

Antwort Zitieren Bearbeiten Löschen Beitrag melden

Thread beobachten

Antwort schreiben

Bitte melde dich an, um einen Beitrag zu schreiben.

Bestehender Account

oder

Mit Google-Account einloggen

Noch kein Account?

Die Registrierung ist kostenlos und dauert nur eine Minute.

Jetzt registrieren