+- LabVIEWForum.de (https://www.labviewforum.de)
+-- Forum: LabVIEW (/Forum-LabVIEW)
+--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein)
+--- Thema: String in Double wird gerundet (/Thread-String-in-Double-wird-gerundet)
String in Double wird gerundet - sporc - 04.04.2017 09:14
Hey Leute,
ich bekomme einen String-Array mit 5 Werten und muss diese für weitere Berechnungen in Double konvertieren. Soweit habe ich das auch hinbekommen, aber manchmal werden einige Zahlen gerundet. Kann ich LabView irgendwie sagen, dass ich zb immer 6 Nachkommastellen haben möchte? Zur Verdeutlichung des Problems habe ich mal ein Bild angehangen.
Vielen Dank
RE: String in Double wird gerundet - jg - 04.04.2017 09:18
Ändere die Darstellung im Frontpanel! Rechtsklick auf Numeric -> Display Format
Gruß, Jens
RE: String in Double wird gerundet - sporc - 04.04.2017 10:38
Super, vielen Dank!
Manchmal ist die Lösung so einfach. Ich hatte zwar sechs Stellen eingestellt, aber der Genauigkeitstyp war auf "signifikante Stellen" statt "Kommastellen" gestellt. Wenn ich das richtig verstehe ist das aber nur eine Einstellung der Anzeige, oder? Also im Speicher sind immer alle Kommastellen vorhanden, unabhängig von der Anzeige?
Beste Grüße
RE: String in Double wird gerundet - GerdW - 04.04.2017 10:47
Hallo sporc,
Zitat:Also im Speicher sind immer alle Kommastellen vorhanden, unabhängig von der Anzeige?Ja.
Das gilt immer, also auch bei Konstanten im BD.
Oder auch bei Strings: hier kann man auch den Anzeigemodus anpassen…