String Umwandlung

(08.05.2025 19:24 )GerdW schrieb:  Hallo simcum,

Zitat:Was ich erreichen wollte war lediglich alle numerischen Werte mit den vorhandenen kommastellen ohne Kürzung und Rundung 1:1 in Stringwerte umzuwandeln, und abzuspeichern.

Dann müsstest du bei DBL-Werten mit 16 signifikanten Ziffern abspeichern (und dabei immer noch Rundung in Kauf nehmen)…

Zitat:Wenn ich jetzt mindesten 10 Kommastellen haben möchte, von mir aus kann die 10.Kommastelle einen Rundungsfehler haben, ist es in Ordnung die numerischen Werte mit dem Format %0.10f umzuwandeln?

Reicht dir das aus? (Der Zahlenwert wird an der 7. signifikanten Ziffer gerundet…)

Wieder: was sind deine Anforderungen?
Meine Anforderungen sind Messwerte in nV Bereich ohne Umrechnung abzuspeichern. mindestens 7. Kommastelle ohne Rundungsfehler.
Dazu wird ein NannoVoltmeter verwendet, der für solche Messungen geeignet ist.
Leider können die Daten aus dem Messgerät nur als Stringwerte ausgelesen werden.
Ich habe einen Screenshot eingefügt der den prinzipiellen Ablauf verdeutlicht inklusive der Formatierung mit 10. Kommastellen.
Wenn das irgendwie besser umzusetzen ist, bin ich für Vorschläge Dankbar.


Konkret: welchen Zahlenbereich musst du abdecken?
Ist oben bereits beantwortet.

Nochmal: hast du schon über %e oder %g nachgedacht?
%e kommt nicht in Frage, das will keiner sehen, wenn die Werte in der Speicherdatei begutachtet werden müssen, das verwirrt einen nur.
%g ist eine automatische Formatierung, aus der Hilfe: "Bei g wird je nach zu formatierender Zahl zwischen Exponential- oder Fließkommaschreibweise gewählt"
genau die selbe Begründung wie bei %e.

Danke nochmals