LabVIEWForum.de

Hallo,

ich benutze einen Verlgeich von 2 Zahlen (siehe Bild) und bekomme eine falsche Entscheidung. Wie kann ich das ändern um ein true zu bekommen?
Kann mir jemand helfen?

Der Vergleich von Gleichheit von Fließkommazahlen ist immer kritisch.

Die Ungleichheit kommt von Rundungseffekten.

Edit: Lies dir z.B. http://floating-point-gui.de/ mal durch... dann sollten alle Klarheiten beseitigt sein.
Edit2: siehe auch http://www.labviewforum.de/index.php?showtopic=17094

hey, vielen Dank, hab das jetzt mit Vergleichen gemacht..

Hallo NasforNos,

Zitat:Wie kann ich das ändern um ein true zu bekommen?

Einfach ein NOT in den letzten Draht einfügen(Sorry, musste einfach sein...)

Ansonsten: Marvin hat ja schon alles erklärt. Beim nächsten Mal statt Probes mit richtigen Indicators arbeiten und dann auch 17 Stellen (statt nur 3) anzeigen lassen...