LabVIEWForum.de

Hallo,

bei Fract/Exp String To Number habe ich immer nur 6 Stellen nach der Umwandlung (vgl. VI).
Ich sollte aber genauere Werte haben. Wie kriege ich das denn hin?
Oder brauche ich dazu eine andere Funktion?

[attachment=12185]


Gruß Markus

Ich glaub der Fehler war einfach nur in der Darstellung... Bei Format/Genauigkeit die Stellen erhöht, und schon war das Problem behoben

Stimmt, das ist in diesem Fall richtig.
Dann such' ich mal weiter nach dem Problem (evtl. auch auf DB-Seite).
Hatte schon an der Funktion gezweifelt.

Gruß Markus

' schrieb:Ich glaub der Fehler war einfach nur in der Darstellung... Bei Format/Genauigkeit die Stellen erhöht, und schon war das Problem behoben