Datengenauigkeit

Diese lästige Anzeige sehr kleiner Werte anstatt Null kommt ja nur dadurch zustande, dass die Voreisntellung für das Anzeigeformat "Automatisch" ist. Da versucht Labview auf Teufel komm raus die sehr kleine Zahl, die nur ein Restfehler ist, darzustellen. Das läßt sich doch leicht ändern.
Bei mir ist übrigens der absolute Fehler mit und ohne Offset etwa geich groß und etwa gleich der Maschinengenauigkeit:

   

Anzeige