float in int

OP #3365391
Hi Leute!

ich habe ein Problem mit dieser zeile:

    k=(float)((delta_x/delta_y)*10);

für k,delta_x,delta_y sind integer

wenn nun delta_x=3 und delta_y=2
dann sollte doch k=15 sein da die restlichen kommastellen abgeschnitten 
werden aber bei mir ist k immer 10 aber warumm?

bzw. habt ihr einen anderen Lösungsvorschlag
Gast #3365392
ja kob schrieb:
> Hi Leute!
>
> ich habe ein Problem mit dieser zeile:
>
>     k=(float)((delta_x/delta_y)*10);
>
> für k,delta_x,delta_y sind integer
>
> wenn nun delta_x=3 und delta_y=2
> dann sollte doch k=15 sein da die restlichen kommastellen abgeschnitten
> werden aber bei mir ist k immer 10 aber warumm?
>
> bzw. habt ihr einen anderen Lösungsvorschlag

Wenn delta_x und delta_y ganzzahling sind (irgendein int oder char), 
dann wird delta_x/delta_y als Ganzzahl berechnet. Das ergibt dann '1'.
Gast #3365500
ja kob schrieb:
> aber was könnt ich dann machen um die 1. Komastelle in k auch noch zu
> speichern?

????
Die wird doch sowieso gespeichert.

Ne, nicht ganz. float hat ca. 6. signifikante Dezimalstellen.
ab der 7. Stelle gehen dann die Informationen verloren.
Dezimalstellen, nicht Nachkommstellen 1000000000 + 1 kannst du mit float 
nicht mehr berechnen.  1000000000 +  100000000 dagegen schon.
Das gilt dann auch für 10000 + 0.00001

Also wenn du mit 10 Millionen rechnest, hast du keine sinnvollen 
Nachkommstellen mehr
Gast #3365509
Das ist nicht nur c#, sonden c[#|++]?, Java, ...
1
int delta_x = 3;
2
int delta_y = 2;
3

4
float k = delta_x / (delta_y * 10.0);
Und rechnet wie gewünscht.

Antwort schreiben

Eine eigene Frage? Dieser Thread ist über 13 Jahre alt. Stell sie in einem eigenen Thread – dort lesen mehr Leute mit, und sie wird öfter und schneller beantwortet.

Neuen Thread starten

Eine Lösung, Ergänzung oder Rückmeldung zu diesem Thread? Dann antworte hier.

Formatierung
  • [c]C-Code[/c]
  • [code]Code in anderen Sprachen, ASCII-Zeichnungen[/code]
  • [math]Formel in LaTeX-Syntax[/math]
  • [[Titel]] – Link zu einem Artikel
  • Verweis auf einen anderen Beitrag: Rechtsklick auf dessen Beitrags-ID (#8078628), „Adresse kopieren“, in den Text einfügen

Mehr zur Formatierung

Längeren Sourcecode als Anhang, nicht in den Text. JPG nur für Fotos und Scans; Zeichnungen und Screenshots als PNG oder GIF. Siehe Bildformate.

Schon registriert? Anmelden

Wird nicht angezeigt. Wir schicken dir einen Link; sobald du damit bestätigst, erscheint dein Beitrag.

Mit dem Abschicken legst du einen kostenlosen Account an und erkennst die Nutzungsbedingungen und die Datenschutzerklärung an.