Probleme bei Berechnen von Integer-Zahl aus ASCII

Gast #2112955
Lesenswert?
• ▲
▼
Hallo,

ich sitz gerade hier an einer Umwandlung von einer Zahl die als String 
vorliegt in eine Integer Zahl. Dabei kommt es zu Problemen, die ich 
nicht nachvollziehen kann.

Da die Zahl in dem String als Dezimalzahl vorliegt, ich das Komma aber 
herausfiltern möchte mache ich die Umwandlung "händisch".

Die Zahl steht in char_lat wie folgt: 30.77465
char_lat kann bis zu 10 Zeichen aufnehmen.
lat_nachkomma ist eine unsigned long.
1
lat_nachkomma = (char_lat[0]-0x30) * 1000000 +
2
                (char_lat[1]-0x30) * 100000 +
3
                (char_lat[3]-0x30) * 10000 +
4
                (char_lat[4]-0x30) * 1000 +
5
                (char_lat[5]-0x30) * 100 +
6
                (char_lat[6]-0x30) * 10 +
7
                (char_lat[7]-0x30) * 1;

Nun zu den Aussagen, die ich treffen kann:
Sobald ich eine der drei oberen Zeilen (mit Faktor >= 10000) in den Code 
mit aufnehme, steht in lat_nachkomma eine mir nicht erklärbare Zahl.
Schreibe ich mit
1
lat_nachkomma = 3077465;
in die Variable funktioniert aber alles ganz normal.

Sieht jemand den Fehler, den ich hier anscheinend irgendwo eingepflanzt 
habe?

Danke
matze
#2112961
Lesenswert?
• ▲
▼
@  matze (Gast)
1
lat_nachkomma = (char_lat[0]-0x30) * 1000000L +
2
                (char_lat[1]-0x30) * 100000L +
3
                (char_lat[3]-0x30) * 10000L +
4
                (char_lat[4]-0x30) * 1000L +
5
                (char_lat[5]-0x30) * 100L +
6
                (char_lat[6]-0x30) * 10L +
7
                (char_lat[7]-0x30) * 1L;

>Sieht jemand den Fehler, den ich hier anscheinend irgendwo eingepflanzt
>habe?

Integer Promotion.

http://www.mikrocontroller.net/articles/Festkommaarithmetik#Die_L.C3.B6sung

MfG
Falk

Antwort schreiben

Hinweis: der ursprüngliche Beitrag ist mehr als 6 Monate alt. Bitte hier nur auf die ursprüngliche Frage antworten, für neue Fragen einen neuen Beitrag erstellen.

Formatierung
  • [c]C-Code[/c]
  • [code]Code in anderen Sprachen, ASCII-Zeichnungen[/code]
  • [math]Formel in LaTeX-Syntax[/math]
  • [[Titel]] – Link zu einem Artikel
  • Verweis auf einen anderen Beitrag: Rechtsklick auf dessen Beitrags-ID (#8078628), „Adresse kopieren“, in den Text einfügen

Mehr zur Formatierung

Längeren Sourcecode als Anhang, nicht in den Text. JPG nur für Fotos und Scans; Zeichnungen und Screenshots als PNG oder GIF. Siehe Bildformate.

Schon registriert? Anmelden

Wird nicht angezeigt. Wir schicken dir einen Link; sobald du damit bestätigst, erscheint dein Beitrag.

Mit dem Abschicken legst du einen kostenlosen Account an und erkennst die Nutzungsbedingungen und die Datenschutzerklärung an.