Forum: Offtopic Toleranzberechnung in C#


Announcement: there is an English version of this forum on EmbDev.net. Posts you create there will be displayed on Mikrocontroller.net and EmbDev.net.
von Walt N. (belayason)


Bewertung
0 lesenswert
nicht lesenswert
Hallo Leute,

ich arbeite mit Quaternionen aus einem Bewegungssensor. Nun möchte ich 
gespeicherte lagen im raum abfahren. In meinem Programm wollte ich eine 
kleine Toleranz einbinden um über leichte Abweichungen hinwegsehen zu 
können.
Nun zum eigentlichen Problem. Hier ist ein Beispielwert den ich aus 
meinem Sensor bekomme.

r: 0.998230 i: -0.01251 j: 0.00589 k: -0.10400

Die berechnung führe ich in C# wie folgt durch.

bsp. Wert j
Boolean diffJ = Math.abs(gespeichertJ / liveJ - 1.0f) <= 0.15 // -> 15%

Das Problem das ich nun habe ist dass die Werte bei den richtig kleinen 
Werten wie 0.00580 größere Sprünge machen als bei z.b. 0.10400. Ich habe 
mir überlegt die Toleranz bei kleineren zahlen größer zu machen. Aber 
eigentlich wollte ich diese auf alle werte gleich anwenden.

Ich hoffe ihr habt mein Problem verstanden. Bin mir selber irgendwie 
nicht sicher, vielleicht hat jemand eine Idee?

von Achim M. (minifloat)


Bewertung
0 lesenswert
nicht lesenswert
Eine absolute Toleranzschwelle benutzen?
bool   diffJ = (Math.abs(gespeichertJ - liveJ) <= 0.00015d)

Bitte melde dich an um einen Beitrag zu schreiben. Anmeldung ist kostenlos und dauert nur eine Minute.
Bestehender Account
Schon ein Account bei Google/GoogleMail, Yahoo oder Facebook? Keine Anmeldung erforderlich!
Mit Google-Account einloggen | Mit Facebook-Account einloggen
Noch kein Account? Hier anmelden.