String Umwandlung

Grundsätzlich hat eine Fliesskommazahl eine unendlich lange Anzahl Dezimalen. Ja es kann vorkommen dass Du zum Beispiel genau 0.5 nano-Something hast und dass das theoretisch nur eine Dezimale hat, aber praktisch ist das nie so. Jedes Messgerät hat eine Ungenauigkeit und die 0.5 nano-Something werden nur in Ausnahmefällen genau als 0.5 umgewandelt/gelesen oder was auch immer. Real kommt da wahrscheinlich eher sowas wie 0.4999832456 rein und bei der nächsten Messung vielleicht 0.50004325.

Das hängt von der Ungenauigkeit der Messung ab und anderen Dingen wie etwa Umwelteinflüssen in der Form von elektrischem oder thermischem Rauschen.

Das heisst, dass die Anzahl Dezimalen die für Dich relevant sind halt von der Messung und Deinen spezifischen Anforderungen abhängen. Und diese Anforderungen sind heute vielleicht anders dann morgen und können auch signifikant varieren zwischen verschiedenen Teilen in Deiner Messung. Deshalb kann LabVIEW für Dich nicht automatisch bestimmen wo die richtige Anzahl Dezimalen liegt.

Du denkst dass Du 0.0045 misst aber sehr wahrscheinlich ist der effektive Wert nur irgendwo in der Nähe davon und weitaus die meisten Fliesskommazahlen (effektiv eine unendliche Anzahl davon, denn die Menge aller Fliesskommazahlen ist unendlich und die im Computer exakt darstellbaren Fliesskommazahlen sind sehr endlich) sind in einem Computer auch nicht genau zu representieren. Denn das würde eine unendliche Anzahl Dezimalen erfordern mit entsprechendem unendlichem Speicher.

Fazit: Du alleine bestimmst in Deiner Applikation was die richtige Anzahl Dezimalen ist in jeder Situation, niemand anders kann das für Dich tun. Das Einzige was Du tun kannst ist die Option einzuschalten um eventuel am Ende angefügte Nullen zu unterdrücken. Dann wird 0.499999978 eben ganz simpel und einfach 0.5 wenn Du das Displayelement mit einer Prezision von 7 einstellst, denn die gerundete Zahl wird dann 0.5000000 und Du hast angegeben um Nullen am Ende zu unterdrücken.

Eine sehr wichtige Regel die unser Elektrotechniklehrer uns im Studium beinahe mit einem Hammer einzubleuen versuchte war:

Zitat:Wer misst misst Mist!

Das Einzige was Du tun kannst ist Dir darüber bewusst zu sein welchen Mist Du misst.