Forum: Offtopic Toleranzberechnung in C#


Toleranzberechnung in C#
von Walt N. (belayason)

Lesenswert?
• ▲
▼ 
Hallo Leute,

ich arbeite mit Quaternionen aus einem Bewegungssensor. Nun möchte ich 
gespeicherte lagen im raum abfahren. In meinem Programm wollte ich eine 
kleine Toleranz einbinden um über leichte Abweichungen hinwegsehen zu 
können.
Nun zum eigentlichen Problem. Hier ist ein Beispielwert den ich aus 
meinem Sensor bekomme.

r: 0.998230 i: -0.01251 j: 0.00589 k: -0.10400

Die berechnung führe ich in C# wie folgt durch.

bsp. Wert j
Boolean diffJ = Math.abs(gespeichertJ / liveJ - 1.0f) <= 0.15 // -> 15%

Das Problem das ich nun habe ist dass die Werte bei den richtig kleinen 
Werten wie 0.00580 größere Sprünge machen als bei z.b. 0.10400. Ich habe 
mir überlegt die Toleranz bei kleineren zahlen größer zu machen. Aber 
eigentlich wollte ich diese auf alle werte gleich anwenden.

Ich hoffe ihr habt mein Problem verstanden. Bin mir selber irgendwie 
nicht sicher, vielleicht hat jemand eine Idee?

Beitrag melden Bearbeiten Thread verschieben Thread sperren Anmeldepflicht aktivieren Anpinnen Thread löschen Thread mit anderem zusammenführen Markierten Text zitieren Antwort Antwort mit Zitat
Re: Toleranzberechnung in C#
von Achim M. (minifloat)

Lesenswert?
• ▲
▼ 
Eine absolute Toleranzschwelle benutzen?
bool   diffJ = (Math.abs(gespeichertJ - liveJ) <= 0.00015d)

Beitrag melden Bearbeiten Löschen Markierten Text zitieren Antwort Antwort mit Zitat
Thread beobachten | Seitenaufteilung abschalten
Bitte melde dich an um einen Beitrag zu schreiben. Anmeldung ist kostenlos und dauert nur eine Minute.
Bestehender Account
Schon ein Account bei Google/GoogleMail? Keine Anmeldung erforderlich!
Mit Google-Account einloggen
Noch kein Account? Hier anmelden.