String Umwandlung

Hallo simcum,

noch ein Nachtrag zu deinem:

Zitat:Mein Ziel ist es nur den Numerischen Wert mit den existierenden nachkommastellen in einen String umzuwandeln.

So sieht dein Zahlenwert aus dem VI aus Beitrag #1 aus:
   
Jetzt erkläre mir bitte nochmal die Anforderung, die "existierenden Nachkommastellen" in einen String zu formatieren!

Was sind für dich "existierende" vs. "arbiträr definierte" vs. "gerundete" Nachkommastellen in deinem Zahlenbeispiel?
Wie definierst du diese unterschiedlichen Fälle?
Und wie passen diese Definitionen zu deiner (bisher sehr ungenauen) Anforderung?
Und ganz wichtig: wo genau kommt der Zahlenwert her? Wie "genau" ist die Datenquelle? (Kommt der Wert vielleicht von einem DAQ-Gerät mit 16bit Auflösung? Dann würden dir auch 5 signifikante Ziffern genügen!)

Beim Programmieren (nicht nur LabVIEW, sondern immer) geht es um genau definierte Anforderungen - und nebenbei schadet es nicht, etwas über die dabei verwendeten Datentypen zu wissen…

P.S.: In meiner Signatur stehen schon seit Jahren (Jahrzenhnten?) diverse Links, u.a. auch "FP numerics". Warum wohl? ;-)

Anzeige

Hallo GerdW,

nur um es klar zu stellen, in meinem Code mache ich die Berechnungen natürlich mit numerischen Werten.
Nach der Berechnung wandele ich diese in einen Stringformat um und speichere diese mit write to spreadfile Funktion als txt file ab.
Die Umwandlung in ein Stringformat mache ich deshalb, weil ich auch zusätzlich zu den Werten einen Header als Info z.B. Parameter oder Kanalnamen etc. mit abspeichere.
Das alles übergebe ich in einen 2D Stringarray welches dann gespeichert wird. Nur wie schon geschrieben wird bei der Umwandlung meiner numerischen Werte in Stringwerte die Kommastellen gekürzt.
Die letzte Kommastelle hat dann einen Rundungsfehler.

Was ich erreichen wollte war lediglich alle numerischen Werte mit den vorhandenen kommastellen ohne Kürzung und Rundung 1:1 in Stringwerte umzuwandeln, und abzuspeichern.

Wenn ich jetzt mindesten 10 Kommastellen haben möchte, von mir aus kann die 10.Kommastelle einen Rundungsfehler haben, ist es in Ordnung die numerischen Werte mit dem Format %0.10f umzuwandeln?

Das soll meine letzter Eintrag zu diesem Thema sein.


Bedanke mich

Gruß

Simcum

Hallo simcum,

Zitat:Was ich erreichen wollte war lediglich alle numerischen Werte mit den vorhandenen kommastellen ohne Kürzung und Rundung 1:1 in Stringwerte umzuwandeln, und abzuspeichern.

Dann müsstest du bei DBL-Werten mit 16 signifikanten Ziffern abspeichern (und dabei immer noch Rundung in Kauf nehmen)…

Zitat:Wenn ich jetzt mindesten 10 Kommastellen haben möchte, von mir aus kann die 10.Kommastelle einen Rundungsfehler haben, ist es in Ordnung die numerischen Werte mit dem Format %0.10f umzuwandeln?

   
Reicht dir das aus? (Der Zahlenwert wird an der 7. signifikanten Ziffer gerundet…)

Wieder: was sind deine Anforderungen?
Konkret: welchen Zahlenbereich musst du abdecken?
Nochmal: hast du schon über %e oder %g nachgedacht?