' schrieb:Eine Double Floating Point Zahl hat 52 Bits für die Mantisse plus ein implizites Bit also 53 Bit. Das ergibt eine maximal darstellbare Zahl von 2^53 = 9007199254740992 ~= 9 * 10^15. Mit zwei Dezimalen weniger für Deine "Pfennige" kommt man da also auf beinahe 10^14 Euro die mit einer Auflösung von 1 Cent darstellbar sind. Das ist tatsächlich nicht ganz eine Trillion (10^18) Euro ^_^.
Mit einer 64 Bit Fixed Point Zahl geht es aber leider auch nicht ganz, nicht mal wenn man mit vorzeichenlosen Zahlen arbeitet (ein interessantes Konzept in der finanziellen Welt 
). Die kann nähmlich sonst nur 2^63 = 9 * 10^18 darstellen was mit der Genauigkeit für Cents nicht ganz 10^17 übrig lässt also auch nicht genug für eine Trillion.
Rolf Kalbermatter
davon ab, mit der FPGA-Erklärung hattest du schon recht. Mittlerweile kann man die cRIO Module (z.B. die Analog In Module) beim Betrieb im cRIO so einstellen, dass sie FPX-Zahlen "rausgeben". Früher war das meist - in Abhängigkeit vom jeweiligen Modul - ein I16 den man dann auf dem RT-Controler in einen Double umrechnen musste.
Ich selber benutze allerdings lieber die RAW-Daten, weil das Umrechnen auf dem FPGA in FPX (der AD-Wandler gibt troz FPX immer noch einen Integer zurück ...) doch ein paar Slices mehr und ein paar Multiplizierer in Anspruch nimmt, die ich vielleicht an anderer Stelle dringender benötige ...
