10*10Bit Multiplikation mit Festkommastelle

Gast #36310
Hallo

Ich stehe vor folgendem Problem:

Beim Auslesen des ADC meines Attiny26 erhalte ich, aufgrund der
benötigten Genauigkeit 10Bit-Werte.

Diese interpretiere ich als vorzeichenlose Festkommazahl, wobei meine
obersten 3Bit meine Vorkommastelle darstellen (Werte von 0..5) und die
unteren 7 Bit meine Nachkommastelle (Genauigkeit von 7,8125e-3).

Diese Zahl möchte ich mit einer Zahl, welche immer kleiner 1  ist
multiplizieren. Auch diese Zahl besteht aus 7 Nachkommastellen.

Wie würdet Ihr das Problem lösen?
Das Ergebniss darf maximal 2 Byte lang sein.

Ich hoffe, daß mir von Euch einer weiterhelfen kann.

MfG
Ralf
Gast #36311
Dein AD-Wert wird rechtsbündig in ein 16-Bit Wort geschoben. Diesen
multiplizierst Du mit Deiner Korrekturzahl von 0..FFFF, wobei FFFF den
Korrekturwert 1 darstellt (16-Bit unsigned Multiplikation). Das
Ergebnis besteht aus 4 Byte, wovon die 2 höchstwertigen Byte Dein
Ergebnis sind.

Antwort schreiben

Eine eigene Frage? Dieser Thread ist über 23 Jahre alt. Stell sie in einem eigenen Thread – dort lesen mehr Leute mit, und sie wird öfter und schneller beantwortet.

Neuen Thread starten

Eine Lösung, Ergänzung oder Rückmeldung zu diesem Thread? Dann antworte hier.

Formatierung
  • [c]C-Code[/c]
  • [code]Code in anderen Sprachen, ASCII-Zeichnungen[/code]
  • [math]Formel in LaTeX-Syntax[/math]
  • [[Titel]] – Link zu einem Artikel
  • Verweis auf einen anderen Beitrag: Rechtsklick auf dessen Beitrags-ID (#8078628), „Adresse kopieren“, in den Text einfügen

Mehr zur Formatierung

Längeren Sourcecode als Anhang, nicht in den Text. JPG nur für Fotos und Scans; Zeichnungen und Screenshots als PNG oder GIF. Siehe Bildformate.

Schon registriert? Anmelden

Wird nicht angezeigt. Wir schicken dir einen Link; sobald du damit bestätigst, erscheint dein Beitrag.

Mit dem Abschicken legst du einen kostenlosen Account an und erkennst die Nutzungsbedingungen und die Datenschutzerklärung an.