Datengenauigkeit

(06.08.2013 11:37 )jg schrieb:  "Standard-Ergebnis" bei Gleitkomma-Arithmetik. Da nützt dir auch "Extended" wenig. Und die Anzeige im Frontpanel ist im Normalfall auf signifikante 6 Stellen begrenzt.

Gruß, Jens

Das mit der erweiterten Genauigkeit war nur ´ne Info, da man das nicht sehen kann im JPG.

Die Kommastellen kann ich auch mit 25 anzeigen (s. Bild). Da habe ich dann die beschriebenen Unterschiede. Im Quellcode besteht der Unterschied darin, dass einmal 0 und einmal 1 dazuaddiert wird. Es kommt aber nicht dasselbe heraus (abgesehen von diesem Offset)


Gruß, Marko