Probleme mit Vergleichsoperation "kleiner gleich"

Hallo Leute!

bin soeben auf ein Problem im Zusammenhang mit der "kleiner gleich" Operation gestoßen.
Ich möchte Messwerte mit deren Sollwerten unter Berücksichtigung einer max. Toleranz
vergleichen.
Bei gewissen Abweichungen, z.B. 0,3 wird der Vergleich "Abweichung kleiner gleich Toleranz" als false
ausgewertet! (0,3 kleiner gleich 0,3 ergibt false!!!!)

Verwende die Basisversion LabVIEW 8.5, VI zum testen im Anhang zu finden!!
Hat jemand eine idee woran das liegen könnte????

Wenn ich die Mess- und Sollwerte nicht übers Frontpanel eingebe, sondern im Programm mit Konstanten
den Vergleich mache, klappt es!
Aber in meinem richtigen Programm werden die Mess- und Sollwerte aus Dateien eingelesen, was ja
auch einer Eingabe entspricht.
Der Vergleich mit den Konstanten diente nur zum Testen.

Könnte es an rundungsfehlern liegen wenn das Doubleformat 0,3 binär für die ALU codiert wird?

Viele Grüße,
Sebby


  Vergleich_2.vi (Größe: 9,9 KB / Downloads: 327)

Anzeige