Datentypen und Rechnungen, die eine höhere Auflösung benötigen

Gast #1399460
Ich hätte aml eine Frage ...

möchte eine Berechnung in dieser Art durchführen:

(inp_val - inp_val_min) / inp_val_width * out_val_width + out_val_min

Alle Werte sind 8 Bit Integerwerte. Bei dem Teilterm 
"(inp_val-inp_val_min)/inp_val_width" muss aber ein Wert von 0...1 
herauskommen, damit das so funktioniert, wie ich mir das denke. Muss ich 
die Variablen nun als float, double etc. anlegen oder geht das auch mit 
eine Casting. Wie genau hat dieses dafür auszusehen ?
Gast
Oder einfach Multiplikation und Division vertauschen.
Notfalls größeren Ordninaltyp casten in der Rechnung (short, long, long 
long) und bitte bitte flaot/double vermeiden.

Antwort schreiben

Eine eigene Frage? Dieser Thread ist über 17 Jahre alt. Stell sie in einem eigenen Thread – dort lesen mehr Leute mit, und sie wird öfter und schneller beantwortet.

Neuen Thread starten

Eine Lösung, Ergänzung oder Rückmeldung zu diesem Thread? Dann antworte hier.

Formatierung
  • [c]C-Code[/c]
  • [code]Code in anderen Sprachen, ASCII-Zeichnungen[/code]
  • [math]Formel in LaTeX-Syntax[/math]
  • [[Titel]] – Link zu einem Artikel
  • Verweis auf einen anderen Beitrag: Rechtsklick auf dessen Beitrags-ID (#8078628), „Adresse kopieren“, in den Text einfügen

Mehr zur Formatierung

Längeren Sourcecode als Anhang, nicht in den Text. JPG nur für Fotos und Scans; Zeichnungen und Screenshots als PNG oder GIF. Siehe Bildformate.

Schon registriert? Anmelden

Wird nicht angezeigt. Wir schicken dir einen Link; sobald du damit bestätigst, erscheint dein Beitrag.

Mit dem Abschicken legst du einen kostenlosen Account an und erkennst die Nutzungsbedingungen und die Datenschutzerklärung an.