Datentypen und Rechnungen, die eine höhere Auflösung benötigen

Anfänger Gast 03.09.2009 19:48 #1399460

Lesenswert?

•

Ich hätte aml eine Frage ...

möchte eine Berechnung in dieser Art durchführen:

(inp_val - inp_val_min) / inp_val_width * out_val_width + out_val_min

Alle Werte sind 8 Bit Integerwerte. Bei dem Teilterm 
"(inp_val-inp_val_min)/inp_val_width" muss aber ein Wert von 0...1 
herauskommen, damit das so funktioniert, wie ich mir das denke. Muss ich 
die Variablen nun als float, double etc. anlegen oder geht das auch mit 
eine Casting. Wie genau hat dieses dafür auszusehen ?

Antwort Zitieren Bearbeiten Thread verschieben Thread sperren Anmeldepflicht aktivieren Anpinnen Thread löschen Thread mit anderem zusammenführen Beitrag melden

(prx) A. K. (prx) 03.09.2009 19:51 #1399462

Lesenswert?

•

▲
▼

Daumenregel: Erst multiplizieren dann dividieren.

Antwort Zitieren Bearbeiten Löschen Beitrag melden

Maxxie Gast 03.09.2009 19:52 #1399463

Lesenswert?

•

▲
▼

Oder einfach Multiplikation und Division vertauschen.
Notfalls größeren Ordninaltyp casten in der Rechnung (short, long, long 
long) und bitte bitte flaot/double vermeiden.

Antwort Zitieren Bearbeiten Löschen Beitrag melden

Thread beobachten

Antwort schreiben

Bitte melde dich an, um einen Beitrag zu schreiben.

Bestehender Account

oder

Mit Google-Account einloggen

Noch kein Account?

Die Registrierung ist kostenlos und dauert nur eine Minute.

Jetzt registrieren