www.mikrocontroller.net

Forum: PC-Programmierung Qt - string.toDouble() Genauigkeitsproblem


Important announcement: there is an English version of this forum on EmbDev.net. Posts you create there will be displayed on Mikrocontroller.net and EmbDev.net.
Autor: Walter (Gast)
Datum:

Diesen Beitrag bewerten:
lesenswert
nicht lesenswert
Hallo Forum,

ich benutze c++ mit Qt und steh grade fürchterlich auf dem Schlauch, 
vielleicht könnt Ihr mir mal kurz unter die Arme greifen?

Ich will einen String in eine Kommazahl umwandeln: aus "12.34567890" 
soll 12.34567890 werden
Benutze ich .toFloat() oder .toDouble() werden die Zahlen nach der 
vierten Nachkommastelle abgeschnitten.

Was mus ich tun damit ich von Qt acht oder besser zehn Stellen nach dem 
Komma bekomme?

Grüße
Walter

Autor: Rufus Τ. Firefly (rufus) (Moderator) Benutzerseite
Datum:

Diesen Beitrag bewerten:
lesenswert
nicht lesenswert
Walter schrieb:
> Benutze ich .toFloat() oder .toDouble() werden die Zahlen nach der
> vierten Nachkommastelle abgeschnitten.

Das stellst Du wie fest? Auf welche Art und Weise betrachtest Du die 
resultierenden Werte?

Autor: Walter (Gast)
Datum:

Diesen Beitrag bewerten:
lesenswert
nicht lesenswert
Das war der nötige Denkanstoß, es liegt nicht an der Umwandlung sondern 
nur an der Anzeige:  qDebug() << QString::number( wert, 'f', 10 );
Also muss der Fehler woanders sein ... ich such mal weiter. Hab vielen 
Dank, Rufus! Du hast mir grade Stunden vergeblicher Suche erspart :)

Antwort schreiben

Die Angabe einer E-Mail-Adresse ist freiwillig. Wenn Sie automatisch per E-Mail über Antworten auf Ihren Beitrag informiert werden möchten, melden Sie sich bitte an.

Wichtige Regeln - erst lesen, dann posten!

  • Groß- und Kleinschreibung verwenden
  • Längeren Sourcecode nicht im Text einfügen, sondern als Dateianhang

Formatierung (mehr Informationen...)

  • [c]C-Code[/c]
  • [avrasm]AVR-Assembler-Code[/avrasm]
  • [code]Code in anderen Sprachen, ASCII-Zeichnungen[/code]
  • [math]Formel in LaTeX-Syntax[/math]
  • [[Titel]] - Link zu Artikel




Bitte das JPG-Format nur für Fotos und Scans verwenden!
Zeichnungen und Screenshots im PNG- oder GIF-Format hochladen.
Siehe Bildformate
Hinweis: der ursprüngliche Beitrag ist mehr als 6 Monate alt.
Bitte hier nur auf die ursprüngliche Frage antworten,
für neue Fragen einen neuen Beitrag erstellen.

Mit dem Abschicken erkennst du die Nutzungsbedingungen an.

webmaster@mikrocontroller.netImpressumNutzungsbedingungenWerbung auf Mikrocontroller.net