LabVIEWForum.de

Hallo zusammen,

nachdem ich heute versucht habe, ein Problem bei einer Arraysuche einzugrenzen konnte ich es irgendwann auf folgendes in meinen Augen verwirrendes VI runterkochen:
[attachment=39477]
Im oberen Vergleich ist der Code, der letztlich die fehlgeschlagene Ursache verursacht, und mir sagt, dass 2.85 != 2.85 sei. Unten habe ich dann testweise den Inhalt der einen Konstante in den der anderen kopiert, was eine Gleichheit der Konstanten bewirkt.
Die Frage ist: Was unterscheidet die obigen Konstanten voneinander? Beide sind DBL, beide sind nicht durch irgendwelche Formatierungen verkürzt/verändert, ich habe keine Ahnung, wieso Labview mir meldet, dass sie ungleich sind.

Kann mir jemand den Grund nennen? Danke!

Gleitkomma DARF man nicht auf "gleich" vergleichen...NIE!

[attachment=39479]

Schon mal die Anzahl der Nachkommastellen erhöht?
[attachment=39478]
Gleichheitsvergleich bei Fließkommazahlen funktioniert sehr gerne mal nicht.

Gruß, Jens

EDIT: Mist, Achim war schneller.

Autsch, ich hatte nach der fünften Nachkommastelle aufgehört.... das heisst dann wohl Runden? Oder gibt's elegantere Möglichkeiten, Gleichheit auf signifikante Stellen zu überprüfen?

"In Range"

Alternativ: den sichtbaren "Text" des NumericControl extrahieren und dann wieder in eine Zahl wandeln...da wird dann einfach abgeschnitten.

mhmhm....nicht das, was mir unter elegant vorschwebt, aber ne Lösung. Danke Euch beiden für die schnelle Hilfe. Ich erinnere mich an Informatikstunden vor 15 Jahren, wo diese Problematik mal in einem Turbo Pascal Beispiel beschrieben wurde, aber dieses Wissen ging über die Jahre verloren

----
Die bearbeitete Lösung gefällt mir besser, allerdings muss ich im Originalprogramm nochmal schauen, woher genau die Zahlen kamen und ob das so umsetzbar ist. danke nochmal!

Noch ne Alternative...kam grad von meiner Kollegin:

Beide Zahlen voneinander subtrahieren und auf "=0" prüfen...da gibts ja ne Primitive dafür!

A.

Das läuft dann aber wieder auf die gleiche Problematik, da die in der 15ten Nachkommastelle ungleichen Zahlen auch nicht Null in der Differenz ergeben.

Hallo,

die Lösung wurde schon genannt: InRangeAndCoerce!

bool = InRangeAndCoerce(0;abs(x-y);epsilon)

Okay, damit ist mein Problem zur Gänze gelöst! Ich nehme aus der heutigen Stunde mit, nie wieder DBL vergleichen.