Rundungsfehler bei Umrechung zwischen metrisch und imperial

Rainer Hohn Gast #3062567
Lesenswert?
• ▲
▼ 
Hallo zusammen,
ich habe zwei Löcher und will ihren Abstand berechnen.

Loch1: X: 01938 mil Y: -00519 mil
Loch2: X: 01937 mil Y: -03039 mil

Ich bekomme unterschiedliche Ergebnisse, wenn ich zuerst subtrahiere und 
dann in metrisch umrechne bzw. zuerst umrechne und dann subtrahiere:

Loch 1:
X: 01938 mil * 0.0254 = 49,2252
Y: -00519 mil * 0.0254 = -13,82599999999

Loch 2:
X  01937 mil * 0.0254 = 49,19979999
Y: -03039 mil * 0.0254 = -77,1906

X-Abstand der Löcher: 0 mm
Y-Abstand beider Löcher: 77,1906 mm - 13,826 mm = 63,3646 mm

Rundungsfehler bei Umrechung mil-mm
Y-Abstand beider Löcher: -00519 mil - -03039 mil = 2520 mil;
                                   2520 * 0,0254 = 64.008 mm.

Der zweite Wert müsste laut Messung richtig sein, aber warum ergeben 
sich diese Unterschiede?

Gruß Rainer
Antwort Zitieren Bearbeiten Thread verschieben Thread sperren Anmeldepflicht aktivieren Anpinnen Thread löschen Thread mit anderem zusammenführen Beitrag melden
Rainer Hohn Gast #3062586
Lesenswert?
• ▲
▼ 
Da hab ich zwei Rechungen vertauscht. Die Periode kommt daher, dass ich 
durch 39.xyz teile, was 1 /0.0254 entspricht.

Mit "x 0.0254" kommt 13,826 raus.

Wo könnte dann also der Fehler noch liegen?
Antwort Zitieren Bearbeiten Löschen Beitrag melden
Simon B. #3062596
Lesenswert?
• ▲
▼ 
Rainer Hohn schrieb:
> Da hab ich zwei Rechungen vertauscht. Die Periode kommt daher, dass ich
> durch 39.xyz teile, was 1 /0.0254 entspricht.
>
> Mit "x 0.0254" kommt 13,826 raus.
>
> Wo könnte dann also der Fehler noch liegen?

dass das ".xyz" von dem 39.xyz falsch ist.

>>> 1/0.0254
39.37007874015748
>>> -519/39.37
-13.182626365252732

Oder: dir ist beim Abtippen irgendwie die erste Nachkommastelle hinter 
der -13 abhandengekommen:

-13,82599999999 vs. -13.182599999999999

Viele Grüße,
        Simon
Antwort Zitieren Bearbeiten Löschen Beitrag melden
Thread beobachten

Antwort schreiben

Bitte melde dich an, um einen Beitrag zu schreiben.

Bestehender Account

oder

Mit Google-Account einloggen

Noch kein Account?

Die Registrierung ist kostenlos und dauert nur eine Minute.

Jetzt registrieren