+- LabVIEWForum.de (https://www.labviewforum.de)
+-- Forum: LabVIEW (/Forum-LabVIEW)
+--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein)
+--- Thema: Vergleich zweier Zahlen (/Thread-Vergleich-zweier-Zahlen)
Seiten: 1 2
RE: Vergleich zweier Zahlen - Martin.Henz - 22.10.2020 14:16
Wie iist es damit?
[attachment=61351]
RE: Vergleich zweier Zahlen - THL - 23.10.2020 12:03
Wenn ein Unterschied von 2 Epsilon auch noch als x=y gewertet werden kann, sollte es auch langen das "kleiner" durch "kleiner, gleich" zu ersetzen.
RE: Vergleich zweier Zahlen - wernerIBN - 23.10.2020 13:18
du schreibst: "Wenn ein Unterschied von 2 Epsilon auch noch als x=y gewertet werden kann, sollte es auch langen das "kleiner" durch "kleiner, gleich" zu ersetzen. "
das trifft es nicht, mein Problem war, dass eine double 0 eben nicht gleich der anderen double 0 war... mein Ziel ist quasi wenn beide ungefähr 0 sind, ist es TRUE.
Ich für meine person finde, 0.0 +/- (2 * Epsilon) ist nahe genug an 0, weil bei mir sind es reale Positionen in mm.
Ich habe ein paar Jahre gebraucht, um festzustellen, dass es auch eine echte 0 gibt. Null mal irgendwas ergibt halt Null....
RE: Vergleich zweier Zahlen - THL - 27.10.2020 12:52
Du schreibst "wenn beide ungefähr 0 sind". "Ungefähr Null" ist aber eigentlich eine sinnlose Aussage. Entweder ist eine Zahl Null oder sie hat einen von Null verschiedenen Wert. So kann 1E-12 "ungefähr Null" sein, wenn man Zahlen im Bereich 1E-3 betrachtet. Wenn man aber Messungen hat, die im Bereich 1E-15..1E-10 liegen, so ist 1E-12 ein durchaus valider Wert. Aus diesem Grund wird ja auch der Y-Wert mit 2*Epsilon multipliziert, damit der Schwellwert in den passenden Wertebereich rutscht.
Abgesehen davon, ist mir selbst der fehlerhafte 0=0-Vergleich auch schon aufgefallen und ich arbeite schon länger mit der hier angehängten Version. Mit der hatte ich bis Dato noch keine Probleme.