LabVIEWForum.de - Labview rechnet falsch

LabVIEWForum.de

Normale Version: Labview rechnet falsch
Du siehst gerade eine vereinfachte Darstellung unserer Inhalte. Normale Ansicht mit richtiger Formatierung.
Seiten: 1 2
(20.12.2012 17:22 )jg schrieb: [ -> ]So ein VI gibt es in OpenG

Interessant, danke für den Hinweis. Inzwischen habe ich auf die Schnelle ein kleines VI gemacht:
[attachment=42783]
Wieso funktioniert es so nicht?
Das liegt an der kruden Abbruchlogik in der While-Schleife und an den seltsamen Beispielwerten.

Das erzeugte Array hat die Werte 500, -100, -600, ... . Die Schleife bricht niemals ab, nach 2 sec steigt LV aus, weil das gesamte PC-Memory voll ist.

Bist Du wirklich nicht in der Lage, Dir bei einem so einfachen Problem selbst helfen?

Zum Schleifenabbruch sollte nicht auf Gleichheit getestet werden, sondern auf < oder >, so dass der Abbruch immer garantiert ist.
Weil beim mehrfachen Aufaddieren/Subtrahieren mit Gleitkommazahlen durch Folge"fehler" schnell mehr die Maschinengenauigkeit zusammenkommt.

Außerdem bezieht sich die Maschinengenauigkeit auf einen Wert von 1. Beim Rechnen mit größeren Zahlen ist Epsilon ein Vielfaches davon.

Ich verweise nochmals auf Wikipedia.

Gruß, Jens
Seiten: 1 2
Referenz-URLs