www.mikrocontroller.net

Forum: Mikrocontroller und Digitale Elektronik Probleme bei Berechnen von Integer-Zahl aus ASCII


Autor: matze (Gast)
Datum:

Bewertung
0 lesenswert
nicht lesenswert
Hallo,

ich sitz gerade hier an einer Umwandlung von einer Zahl die als String 
vorliegt in eine Integer Zahl. Dabei kommt es zu Problemen, die ich 
nicht nachvollziehen kann.

Da die Zahl in dem String als Dezimalzahl vorliegt, ich das Komma aber 
herausfiltern möchte mache ich die Umwandlung "händisch".

Die Zahl steht in char_lat wie folgt: 30.77465
char_lat kann bis zu 10 Zeichen aufnehmen.
lat_nachkomma ist eine unsigned long.
lat_nachkomma = (char_lat[0]-0x30) * 1000000 +
                (char_lat[1]-0x30) * 100000 +
                (char_lat[3]-0x30) * 10000 +
                (char_lat[4]-0x30) * 1000 +
                (char_lat[5]-0x30) * 100 +
                (char_lat[6]-0x30) * 10 +
                (char_lat[7]-0x30) * 1;

Nun zu den Aussagen, die ich treffen kann:
Sobald ich eine der drei oberen Zeilen (mit Faktor >= 10000) in den Code 
mit aufnehme, steht in lat_nachkomma eine mir nicht erklärbare Zahl.
Schreibe ich mit
lat_nachkomma = 3077465;
in die Variable funktioniert aber alles ganz normal.

Sieht jemand den Fehler, den ich hier anscheinend irgendwo eingepflanzt 
habe?

Danke
matze

Autor: Falk Brunner (falk)
Datum:

Bewertung
0 lesenswert
nicht lesenswert
@  matze (Gast)
lat_nachkomma = (char_lat[0]-0x30) * 1000000L +
                (char_lat[1]-0x30) * 100000L +
                (char_lat[3]-0x30) * 10000L +
                (char_lat[4]-0x30) * 1000L +
                (char_lat[5]-0x30) * 100L +
                (char_lat[6]-0x30) * 10L +
                (char_lat[7]-0x30) * 1L;

>Sieht jemand den Fehler, den ich hier anscheinend irgendwo eingepflanzt
>habe?

Integer Promotion.

http://www.mikrocontroller.net/articles/Festkommaa...

MfG
Falk

Autor: Peter II (Gast)
Datum:

Bewertung
0 lesenswert
nicht lesenswert
je nach system ist ein int teilweise nur 16bit gross und in C werden 
bereichnungen erstmal mit int gemacht damit ist bei 65535 schluss.

Teste mal mit

...
(char_lat[0]-0x30) * 1000000UL
...

Autor: Thomas Decker (t0mmy)
Datum:

Bewertung
0 lesenswert
nicht lesenswert
Innerhalb der Klammer (char_lat[0]-0x30) wird vermutlich nur mit 
8bit-Zahlen gerechnet, da beide Operanden genau so groß sind. Versuchs 
mal mit einem cast auf größere Datentypen.

Autor: Vlad Tepesch (vlad_tepesch)
Datum:

Bewertung
0 lesenswert
nicht lesenswert
ist denn sichergestellt, dass die Zahl immer 2 Vorkommastellen hat?

Autor: Falk Brunner (falk)
Datum:

Bewertung
0 lesenswert
nicht lesenswert
@  Thomas Decker (t0mmy)

>Innerhalb der Klammer (char_lat[0]-0x30) wird vermutlich nur mit
>8bit-Zahlen gerechnet,

Was auch vollkommen ausreichend ist.

Autor: Thomas Decker (t0mmy)
Datum:

Bewertung
0 lesenswert
nicht lesenswert
Falk Brunner schrieb:
> @  Thomas Decker (t0mmy)
>
>>Innerhalb der Klammer (char_lat[0]-0x30) wird vermutlich nur mit
>>8bit-Zahlen gerechnet,
>
> Was auch vollkommen ausreichend ist.
In der Tat... ich geh mich in die Ecke stellen.

Autor: matze (Gast)
Datum:

Bewertung
0 lesenswert
nicht lesenswert
Hi,

also der Tipp, dass der Controller üblicherweise "nur" mit 16 Bit 
arbeitet war richtig. Nach dem ich hinter die Faktoren "UL" gesetzt 
hatte war das Problem behoben.

Vielen Dank
matze

Antwort schreiben

Die Angabe einer E-Mail-Adresse ist freiwillig. Wenn Sie automatisch per E-Mail über Antworten auf Ihren Beitrag informiert werden möchten, melden Sie sich bitte an.

Wichtige Regeln - erst lesen, dann posten!

  • Groß- und Kleinschreibung verwenden
  • Längeren Sourcecode nicht im Text einfügen, sondern als Dateianhang

Formatierung (mehr Informationen...)

  • [c]C-Code[/c]
  • [avrasm]AVR-Assembler-Code[/avrasm]
  • [code]Code in anderen Sprachen, ASCII-Zeichnungen[/code]
  • [math]Formel in LaTeX-Syntax[/math]
  • [[Titel]] - Link zu Artikel
  • Verweis auf anderen Beitrag einfügen: Rechtsklick auf Beitragstitel,
    "Adresse kopieren", und in den Text einfügen




Bild automatisch verkleinern, falls nötig
Bitte das JPG-Format nur für Fotos und Scans verwenden!
Zeichnungen und Screenshots im PNG- oder
GIF-Format hochladen. Siehe Bildformate.
Hinweis: der ursprüngliche Beitrag ist mehr als 6 Monate alt.
Bitte hier nur auf die ursprüngliche Frage antworten,
für neue Fragen einen neuen Beitrag erstellen.

Mit dem Abschicken bestätigst du, die Nutzungsbedingungen anzuerkennen.