ADC LCD Darstellung und seine Problemchen

Ich kanns gerade selbst nicht testen, aber schreib doch mal fix
y=(x*100.0)/1024.0;
Und guck ob es geht...
LG, Björn

Für eine hoch wissenschaftliche Darstellung des Problems frag wen 
anders, oder mich morgen nochmal, dazu passt die Uhrzeit nicht ;-)
Jetzt gerade mal huschi puschi geantwortet:
Der Compiler schneidet dir da was ab, weil deine Konstanten ohne das .0 
den falschen Datentyp haben. Damit rechnet er dann weiter...
LG, Björn

Das ist die 1.1000.1111.1001.1100 Zahl die du maximal haben kannst also 
1023 * 100 wenn du mit 16Bit Variablen rechnest ist das aber leider eine 
zu wenig. Zähl mal die Bits sind genau 16+1 = 17 du verlierst alles ab 
etwa ADC Wert 655.

Ne größere Variable oder aber irgendwie die Rechnung ändern

Gruß ErgoProxy

Das kommt durch die Division mit den double-Werten. Dein compiler 
rechnet die Konstanten ja vorher schon aus, im Grunde steht da also 
nichts anderes als y=x*0,09765625. Je nachdem wie genau du es brauchst, 
kannst du natürlich den wert runden und einfach y=x/10 schreiben. Dann 
bist du wieder bei deinen Integer-Operationen.

Ähm, was mir in diesem Moment auffällt, versuch mal die Klammern 
wegzulassen und die beiden .0

LG, Björn

das brauchst du an der stelle aber nicht mehr nach long casten, das 
ergebnis passt ja wieder in nen integer rein. Ich würde sagen, das 
Problem sind die Klammern, die hindern den Compiler daran, das vorher 
auszurechnen.

ähm und jetzt geh ich ins bett... habt ihr mal auf die uhr geguckt??? 
ich treff die shift taste schon nicht mehr...bitte das zu entschuldigen.

kürzen kann ich auch ;-)
y=x*25/256;
Sollte mich aber wundern, wenn das das Problem löst. Der Wert wird ja 
vorher durch den Compiler berechnet. mit y=x*25/256.0 wirds wieder 
genau, aber gibt auch ein großes programm.
So jetzt aber gute Nacht! Und wehe ihr habt morgen wenn ich hier 
reingucke die optimale Lösung noch nicht ;-)

abo

Der Speicherbedarf scheint an einem Fehler im neueren GCC zu liegen im 
Zusammenhang mit float Variablen. Stand schon in einigen Treads, sowie 
auf der Website des GCC.

Gruß ErgoProxy

der Speicherbedarf bei Float liegt ganz einfach daran, das der AVR ein 
8bitter ohne FPU (Floating point unit) ist und beim Verwenden von Floats 
diese Berechnungen in Software durchgeführt werden müssen.

Eine Float-Rechenoperation dauert auch um ein Vielfaches länger als auf 
Ganzzahlen.

Sobald irgendwo im Code ein Float vorkommt, bindet der GCC dafür extra 
Code ein, so dass das Prog gleich mal "riesig" wird.

Deshalb: Floats soweit wie möglich und es sinnvolle Alternativen gibt 
auf AVR's vermeiden.

Gruß
Roland