String Umwandlung

Hallo zusammen,

ich habe bei meinem Programm festgestellt, das die Kommastellen vom Stringwert bei Umwandlung in einen Numerischen Wert reduziert werden.
Eigentlich sollte es so nicht sein.

Hat jemand Erfahrungen damit?

Habe dazu mal ein Vi beigefügt welches das verdeutlicht.

Stringwert = +1.88046074E+01
Numwert = 18.8046
Sollte aber idealerweise 18.8046074 oder mehr sein, je nach ausgelesenem Stringwert.

Bedanke mich schon mal

Gruß

simcum

Hallo simcum,

du benutzt nach eigener Aussage seit 15 Jahren LabVIEW und weißt nicht, dass man die Formatierung von Zahlenwerten in einem numerischen Indicator anpassen kann???

Versuche es doch einfach mal mit einer Anzeigeeinstellung von mehr als nur 6 Dezimalstellen…

Hallo GerdW,

ich musste bis dato noch nie die Angabe nach der 5. Kommastelle brücksichtigen.
Daher kannte ich das noch nicht.
Und ja, ich schäme mich in Grund und Boden.
Mann lernt nie aus danke dir für die Info.

Gruß

simcum

Hallo GerdW,

gibt es denn eine Möglichkeit, alle erzeugten numerischen Elemente (z.B. dbl) standardmäßig auf 10 nachkommastellen zu setzen?
Oder muss ich das für jedes Element separat einstellen?
Wenn ich die Werte über den gesammten Ablauf überprüfen möchte.

Gruß

Simcum

Hallo GerdW,

so jetzt habe ich alle indikatoren der Numerischen Elemente auf den gewünschten Wert gesetzt.

Leider werden die Werte in einem Subvi bei der Num zu String Umwandlung gekürzt.

Dazu habe ich den Subvi mal angefügt.

Ist hierbei etwas zu beachten, das ist der letzte Abschnitt in der Software vor der Speicherung.

Fpr deine Hilfe wäre ich sehr Dankbar

Gruß

Simcum

Hallo simcum,

Zitat:Leider werden die Werte in einem Subvi bei der Num zu String Umwandlung gekürzt.

Weil du das genau so programmiert hast!

Lese dir doch einfach mal die LabVIEW-Hilfe bzgl. der Formatcodes durch!!!

Und warum muss dieses subVI so kompliziert sein?
   
Um ein Array in einen Spreadsheet-String umzuwandeln gibt es doch eine fertige Funktion!

Zitat:Und ja, ich schäme mich in Grund und Boden.

Du musstest in 15 Jahren nie Zahlen in Strings und umgekehrt umwandeln???

Anzeige

Hallo sicum,

ein bissl Spass und Humor muss jetzt schon sein :-)

(Gestern 11:53 )simcum schrieb:  Eigentlich sollte es so nicht sein.

wie sollte es denn sein?

Zitat:Hat jemand Erfahrungen damit?

ja (vielleicht) - und ich bin ganz sicher nicht der Einzige.

(Gestern 15:43 )GerdW schrieb:  

Zitat:Und ja, ich schäme mich in Grund und Boden.

Du musstest in 15 Jahren nie Zahlen in Strings und umgekehrt umwandeln???

Gerd, du machts es dir zu einfach #

Es kommt natürlich auf die Anforderungen an.
Unter Umständen ist eine Zahlenumwandlung von String nach Double (oder Single) und zurück etwas problematisch. Kaum etwas ist wirklich einfach - auch das nicht.

Der mir bekannte schwierigste Fall ist folgender:
Eine Zahl soll als String dargestellt werden. Es sollen in dem String jedoch nur so viele Stellen dargestellt werden, damit bei einer Rückumwandlung von dem String in einen Double (oder Single) ganz exakt der gleiche Zahlert heraus kommt (ein Vergleich mit = also True liefert. Es ist nicht erlaubt einfach konstant 16 Stellen auszugeben. Es ist nicht erlaubt mehr stellen auszugeben, als unbedingt notwendig.

Viel Spass ...

Hallo Martin,

Zitat:Gerd, du machts es dir zu einfach #

Es kommt natürlich auf die Anforderungen an.

Für mich las sich die Frage wie die Anforderung "erklär mir mal, wie man mehr als die Default-Anzahl von Dezimalstellen formatiert"…
Und da erwarte ich von jemanden mit 15+ Jahren Erfahrung mit LabVIEW (und wahrscheinlich noch anderen Programmiersprachen) schon etwas mehr "Grundbildung"!

Zitat:Der mir bekannte schwierigste Fall ist folgender:…

Da gebe ich dir uneingeschränkt recht: floats als "lesbaren Text" zu speichern hat seine Fallstricke…