Das Forum für LabVIEW-Entwickler

**Y-P** · 23.04.2008, 14:48

Hallo,

bei Fract/Exp String To Number habe ich immer nur 6 Stellen nach der Umwandlung (vgl. VI).
Ich sollte aber genauere Werte haben. Wie kriege ich das denn hin?
Oder brauche ich dazu eine andere Funktion?

Sonstige

Fract_Exp_String_To_Number.vi (Größe: 8,29 KB / Downloads: 287)

Lv80_img

Gruß Markus

**Xaran** · 23.04.2008, 14:53

Ich glaub der Fehler war einfach nur in der Darstellung... Bei Format/Genauigkeit die Stellen erhöht, und schon war das Problem behoben Wink

**Y-P** · 23.04.2008, 15:18

Stimmt, das ist in diesem Fall richtig. Blush

Dann such' ich mal weiter nach dem Problem (evtl. auch auf DB-Seite).
Hatte schon an der Funktion gezweifelt.

Gruß Markus

' schrieb:Ich glaub der Fehler war einfach nur in der Darstellung... Bei Format/Genauigkeit die Stellen erhöht, und schon war das Problem behoben

Möglicherweise verwandte Themen...
Themen		Verfasser	Antworten	Views	Letzter Beitrag
	Schieberegister Initialisierung mit Array => Not a Number	Roland	7	7.621	03.07.2017 15:58 Letzter Beitrag: Roland
	String zu Number umwandeln	galilio	6	5.970	01.09.2016 15:38 Letzter Beitrag: GerdW
	Boolean Array (>32-Bit!) to Number	Daniel_S	2	5.734	27.07.2016 13:44 Letzter Beitrag: jg
	Wert mit 3 Stellen herrausfiltern	Dany83	9	4.518	08.09.2015 21:14 Letzter Beitrag: Trinitatis
	Fract/Exp String To Number Function	grba123	2	4.111	17.08.2015 11:44 Letzter Beitrag: GerdW
	MultiColumn Listbox Reihen number	Fabian257	6	4.888	16.06.2015 10:36 Letzter Beitrag: Fabian257

Das Forum für LabVIEW-Entwickler

Fract/Exp String To Number hat immer nur 6 Stellen.