String Umwandlung

(09.05.2025 08:26 )GerdW schrieb:  Hallo simcum,

Zitat:Meine Anforderungen sind Messwerte in nV Bereich ohne Umrechnung abzuspeichern. mindestens 7. Kommastelle ohne Rundungsfehler.
Dazu wird ein NannoVoltmeter verwendet, der für solche Messungen geeignet ist.

Dein Messgerät liefert laut Screenshot nur 9 signifikante Ziffern…

Zitat:Leider können die Daten aus dem Messgerät nur als Stringwerte ausgelesen werden.

Die könntest du sofort in deine Ausgabedatei speichern…
Ich muss aber als zwischenschritt Mittelwertbildung realisieren.
(Verwendet aber auch die %e-Formatierung, wie es sich für ein ordentliches Messgerät gehört.)

Zitat:Ich habe einen Screenshot eingefügt der den prinzipiellen Ablauf verdeutlicht inklusive der Formatierung mit 10. Kommastellen.

Wenn es für deine Auftraggeber passt, dann ist das gut…
Immer im Hinterkopf haben: du hast bei float-Werten IMMER Rundungsfehler (in der Dezimaldarstellung bei Werten wie dem von dir gezeigten), von daher ist die Anforderung "ohne Rundungsfehler" unsinnig!
Verstehe sicher, solange der Rundungsfehler die letzte Kommastelle betriftt (in unserem Fall ab dem 7.) ist es nicht von Bedeutung.
Ich nehme 10 Kommastellen und unterdrücke die eventuell erzeugten Null Werte

Zitat:Konkret: welchen Zahlenbereich musst du abdecken?
Ist oben bereits beantwortet.

Du hast bisher nur einen einzigen konkreten Zahlenwert genannt.
Und der liegt bei ~19, ohne Angabe einer Einheit.
Das ist nur ein Beispielwerte was ich erstellt habe, welches der Ausgabe vom Messgerät entspricht.
So sieht ein Messwert z. B. aus: +4,622E-08
Einheit ist Volt also 0.0000000462V, hier darf bis zur 9. Kommastelle nicht gerundet werden damit der nV Bereich so bestehen bleibt.

"Nanovolt-Werte" würde ich eher im Bereich 1e-9 bis 1e-7 vermuten…

Genauso ist es auch

Zitat:das will keiner sehen, wenn die Werte in der Speicherdatei begutachtet werden müssen, das verwirrt einen nur.

Ich weiß ja nicht, in welchem Bereich (Forschung, R&D, Kalibrierung) du arbeitest.
Aber Werte mit 10 Nachkommastellen abzuspeichern und dann nicht mit dem Engineering-Format zu arbeiten weil es "verwirrt", passt für mich nicht zusammen.
Ja da hast du zwar recht aber so wollen die es haben.

Ihr arbeitet mit einem Messgerät, dass laut der hier diskutierten Zahlenwerte einen ADC mit ~30bit Auflösung verwenden müsste, und wir diskutieren über float-Basics und ihre Begrenzungen? (Kannst du mal ein Specsheet des Messgeräts verlinken? Das Messgerät liefert eine Auflösung im Attovolt-Bereich, wenn der Messwert 18.8046074nV darstellen soll?)

Im Attovoltbereich ja aber wir arbeiten im Nanovoltbereich

Hoffe das ist jetzt klarer rübergekommen.

Danke nochmals für deine Unterstützung

Anzeige