LabVIEWForum.de
Nachkommastellen beim Laden - Druckversion

+- LabVIEWForum.de (https://www.labviewforum.de)
+-- Forum: LabVIEW (/Forum-LabVIEW)
+--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein)
+---- Forum: Datenbank & File IO (/Forum-Datenbank-File-IO)
+---- Thema: Nachkommastellen beim Laden (/Thread-Nachkommastellen-beim-Laden)



Nachkommastellen beim Laden - Jizaz - 13.09.2010 09:49

Hallo, ich habe ein Problem beim Umformen eines eingelesenen Strings in ein Array.
Egal was ich in den Format Specifier eingebe, er rundet mir meine Messwerte immer auf 6 Significants.
Hilfe-files und dieses Forum habe ich bereits durchsucht, leider ergebnislos. Deshalb hier ein neues Thema, wenngleich ich befürchte, dass mein Problem völlig trivial ist... -.-

Welchen Format Specifier muss ich da angeben, um alle 4 digits ins Array mitzunehmen?
%8,4f und %,4f ists jedenfalls nicht (wie die LVHilfe behauptete)
auch %10f bringt nichts

Kann mir da jmd helfen, bitte?


Nachkommastellen beim Laden - GerdW - 13.09.2010 09:52

Hallo Jizaz,

erstmal: es kommen doch schon 4 Nachkommastellen im Array an, wie man an der ersten Spalte sieht.
Für die anderen Spalten würde es helfen, mal einen Rechtsklick auf ein Arrayelement zu machen und dort etwas wie 10 signifikante Stellen vorzugeben!

Es kommen schon alle Ziffern im Array an, es werden nur nicht alle dargestellt...Smile


Nachkommastellen beim Laden - Jizaz - 13.09.2010 10:04

Tatsächlich, vielen Dank. =)

das Thema kann wohl gelöscht werden...^^
zu trivial, wie vermutet