LabVIEWForum.de - Vergleich zweier Zahlen

LabVIEWForum.de

Normale Version: Vergleich zweier Zahlen
Du siehst gerade eine vereinfachte Darstellung unserer Inhalte. Normale Ansicht mit richtiger Formatierung.
Seiten: 1 2
Wie iist es damit?

[attachment=61351]
Wenn ein Unterschied von 2 Epsilon auch noch als x=y gewertet werden kann, sollte es auch langen das "kleiner" durch "kleiner, gleich" zu ersetzen.
du schreibst: "Wenn ein Unterschied von 2 Epsilon auch noch als x=y gewertet werden kann, sollte es auch langen das "kleiner" durch "kleiner, gleich" zu ersetzen. "

das trifft es nicht, mein Problem war, dass eine double 0 eben nicht gleich der anderen double 0 war... mein Ziel ist quasi wenn beide ungefähr 0 sind, ist es TRUE.

Ich für meine person finde, 0.0 +/- (2 * Epsilon) ist nahe genug an 0, weil bei mir sind es reale Positionen in mm.

Ich habe ein paar Jahre gebraucht, um festzustellen, dass es auch eine echte 0 gibt. Null mal irgendwas ergibt halt Null....
Du schreibst "wenn beide ungefähr 0 sind". "Ungefähr Null" ist aber eigentlich eine sinnlose Aussage. Entweder ist eine Zahl Null oder sie hat einen von Null verschiedenen Wert. So kann 1E-12 "ungefähr Null" sein, wenn man Zahlen im Bereich 1E-3 betrachtet. Wenn man aber Messungen hat, die im Bereich 1E-15..1E-10 liegen, so ist 1E-12 ein durchaus valider Wert. Aus diesem Grund wird ja auch der Y-Wert mit 2*Epsilon multipliziert, damit der Schwellwert in den passenden Wertebereich rutscht.

Abgesehen davon, ist mir selbst der fehlerhafte 0=0-Vergleich auch schon aufgefallen und ich arbeite schon länger mit der hier angehängten Version. Mit der hatte ich bis Dato noch keine Probleme.
Seiten: 1 2
Referenz-URLs