"Ergebnis und Rest" Problem

Hallo,

ich habe folgendes Problem:

Ich brauche wie unten zu sehen ist die Information ob Endfrequenz minus Startfrequenz geteilt durch die Schrittweite der Rest gleich null ist.

Das funktioniert teilweise auch schon.

Beispiele:

Startfreq Endfreq Schrittweite
2 4 1 das geht
2 4 0,5 das geht
2 4 0,1 das geht nicht

Jetzt ist die Frage warum nicht? Habe schon versucht die Datentypen zu ändern, aber ohne Erfolg.
Hoffe Ihr könnt mir weiter helfen.

Gruß
Rene

Hallo Rene

Habe dein VI mit LabVIEW 2011 getestet und es hat funktioniert.
LabVIEW 2010 ist momentan leider nicht auf meinem Rechner installiert.

Hast Du das Service-Pack 1 für LabVIEW 2010 installiert?

Gruss
Chris

Bekanntes Probem:
Es funktioniert meist nicht, zwei Realzahlen auf Gleichheit zu testen. Wenn der Berechnungsgang unterschiedlich ist, unterscheiden sie sich fast immer (und wenn es die 1000te Stelle nach dem Komma ist ). Kannst es selbst prüfen, indem Du die Genauigkeitsanzeige bei der Darstellung auf möglichst viele Kommastellen erhöhst. Dann siehst Du, dass die zu prüfende Zahl doch kein echte Null ist.
So müßte es gehen:

   

Ergänzend zu dem was Lucki ja schon gesagt hat... hier noch ein Hinweis aus der LabVIEW Hilfe (welche übrigens für Jedermann frei zugänglich ist...)

"Hinweis Mit dem ANSI/IEEE-Standard für Fließkommazahlen können nicht alle reellen Zahlen dargestellt werden. Daher kann es in LabVIEW zu Rundungsfehlern und unerwarteten Ergebnissen kommen, wenn Sie Fließkommawerte mit dieser Funktion verwenden. Um genaue Berechnungen und Vergleiche anzustellen, sollten Fließkommazahlen in ganze Zahlen umgewandelt werden."


Gruß SeBa

Danke für die Tipps.

Habe es jetzt so gelöst.

Die möglicherweise bessere Lösung wäre, lieber etwas zu tun als etwas zu prüfen: die Schrittweite so korrigieren, daß im letzten Schritt die Endfrequenz genau getrofffen wird. Damit entfällt die ganze Vergleicherei. Also so:
   

Edit: Man kann es auch so machen, daß die korrigierte Schrittweite über eine lokale Variable in das Eingabefeld "Schrittweite" rückgeschrieben wird. Statt das, was man eingegeben hat, sieht man dann immer gleich den korrigierten Wert. Man braucht also nicht unbedingt 2 Elemente auf dem BD.

Anzeige

Das ist eine richtig gute Idee, danke dir!