String Umwandlung

Hallo simcum,

Zitat:Meine Anforderungen sind Messwerte in nV Bereich ohne Umrechnung abzuspeichern. mindestens 7. Kommastelle ohne Rundungsfehler.
Dazu wird ein NannoVoltmeter verwendet, der für solche Messungen geeignet ist.

Dein Messgerät liefert laut Screenshot nur 9 signifikante Ziffern…

Zitat:Leider können die Daten aus dem Messgerät nur als Stringwerte ausgelesen werden.

Die könntest du sofort in deine Ausgabedatei speichern…
(Verwendet aber auch die %e-Formatierung, wie es sich für ein ordentliches Messgerät gehört.)

Zitat:Ich habe einen Screenshot eingefügt der den prinzipiellen Ablauf verdeutlicht inklusive der Formatierung mit 10. Kommastellen.

Wenn es für deine Auftraggeber passt, dann ist das gut…
Immer im Hinterkopf haben: du hast bei float-Werten IMMER Rundungsfehler (in der Dezimaldarstellung bei Werten wie dem von dir gezeigten), von daher ist die Anforderung "ohne Rundungsfehler" unsinnig!

Zitat:Konkret: welchen Zahlenbereich musst du abdecken?
Ist oben bereits beantwortet.

Du hast bisher nur einen einzigen konkreten Zahlenwert genannt.
Und der liegt bei ~19, ohne Angabe einer Einheit.
"Nanovolt-Werte" würde ich eher im Bereich 1e-9 bis 1e-7 vermuten…

Zitat:das will keiner sehen, wenn die Werte in der Speicherdatei begutachtet werden müssen, das verwirrt einen nur.

Ich weiß ja nicht, in welchem Bereich (Forschung, R&D, Kalibrierung) du arbeitest.
Aber Werte mit 10 Nachkommastellen abzuspeichern und dann nicht mit dem Engineering-Format zu arbeiten weil es "verwirrt", passt für mich nicht zusammen.

Ihr arbeitet mit einem Messgerät, dass laut der hier diskutierten Zahlenwerte einen ADC mit ~30bit Auflösung verwenden müsste, und wir diskutieren über float-Basics und ihre Begrenzungen? (Kannst du mal ein Specsheet des Messgeräts verlinken? Das Messgerät liefert eine Auflösung im Attovolt-Bereich, wenn der Messwert 18.8046074nV darstellen soll?)