+- LabVIEWForum.de (https://www.labviewforum.de)
+-- Forum: LabVIEW (/Forum-LabVIEW)
+--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein)
+--- Thema: Genauigkeit (/Thread-Genauigkeit)
Genauigkeit - DrHoas - 15.08.2012 11:17
Hallo,
wenn ich in ein Double-Anzeigeelement den Wert 0,00267219633160888 reinkopiere, ändert LabVIEW den Wert, sobald ich rausspringe zu 0,00267219633160888006. Es wird also 006 angehängt. Nicht dass das irgendwas ausmacht, es würde mich aber interessieren, warum das passiert. Hat das was mit der Maschinengenauigkeit zu tun?
Gruß
Philipp
RE: Genauigkeit - jg - 15.08.2012 11:38
Das macht nicht nur LabVIEW so, das macht jede Programmiersprache bei einem Datentyp Float oder Double, oder allgemeiner bei einer Gleitkommazahl so.
http://de.wikipedia.org/wiki/Gleitkommazahl
Das Thema gab es in dieser oder abgewandelter Form schon x-mal hier.
Und ja, man kann das auch mit dem Schlagwort "Maschinengenauigkeit" in Verbindung bringen.
Gruß, Jens
RE: Genauigkeit - DrHoas - 15.08.2012 12:10
OK, danke. Der Artikel ist ziemlich interessant.
Philipp