Rechnen mit hohen Zahlen

Handelt es sich bei FTW um einen Ganzzahlwert oder einen
Gleitkommawert?

Bei Ganzzahlen würde ich die drei Variablen einfach als unsigned long
int deklarieren:

unsigned long FTW = 0, fout = 0, fref = 0;
[..]

  /* irgendwas in fout/fref schreiben */
  [..]
  FTW = (fout/fref) * (1 << 32);
  [..]

...dann muss in Deiner printf-Anweisung allerdings sowas stehen:

  [..]
  printf("\r\n FTW ist %lx", &FTW);
  [..]

Gruß,
Patrick...

Hau mich tot, da hab ich was verbockt :)
Habs mal getestet, das ist das Ergebnis:

-----8<-----
#include <stdlib.h>
#include <stdio.h>

int
main(void)
{
  unsigned long long FTW = 0;
  unsigned long long fout = 0;
  unsigned long long fref = 0;

  /* irgendwas in fout/fref schreiben */
  fref = 2544368;
  fout = 1235472;

  FTW = (fout/fref) << 32;
  printf("FTW ist 0x%lx (%ld dez)\n", FTW, FTW);

  return 0;
}
-----8<-----

Gruß,
Patrick...

Hallo Patrick

Wenn fout =5E6 ist und fref =20E6 wird in deiner Berechnung der Wert 0
ausgegeben, sollte aber 1073741824 sein (0.25 * 2^32). fout/fref muss
mit einer möglichst hochen Genauigkeit gerechnet werde, weil danach mit
2^32 multipliziert wird. Das heisst es muss mit kommazahlen gerechnet
werden. FTW kann am Schluss dann schon eine 4 Byte Ganzzahl sein. Ein
Programm in C habe ich schon, nur die Umsetzung auf den ATmega163 ist
nicht so ganz einfach.

Gruss Martin

Hallo,

wenn du Probleme mit der Genauigkeit hast, so stell einfach die Formel
ein bischen um, so dass die Division erst zum schluss erfolt:
z.B.  FTW= (fout*(1<<32))/fref

Mathematisch müsste das gleich rauskommen.

Gruß, Florian

Hallo Florian

Deine Ueberlegungen sind schon richtig, aber fout kann von 0 bis 200E6
sein (siehe erstes Mail) und das mal 2^32 ergibt 8.589934592E17. Eine
unsigned long Zahl (4 Byte) kann aber nur 4.294967296E9 gross sein,
deshalb habe ich das nicht so gerechnet. Bei einem "normalen"
C-Programm würde ich das mit double Zahlen rechnen, funktioniert auch,
wenn das ganze in einem uP laufen soll, sieht das dann schon anders
aus.

Gruss Martin

Hallo Patrick

wie wird ein "unsigned long long" in CodeVision realisiert?
Dein Programm läuft im normalen C-Code. Der Hex wird ausgegeben dezimal
wird aber immer eine 0 ausgegeben.

Gruss Martin