LabVIEW rechnet teilweise falsch

Hallo zusammen!

Ich hab ein Problem in meinem Programm, weiß leider aber nicht wo dieser liegt. In meinem Programm werden Daten eingelesen, graphisch dargestellt und daraus Werte berechnet. Beim Nachrechnen ist mir aufgefallen, dass einige Werte um den Faktor 100 zu niedrig sind, andere wiederum richtig sind. Mich verwundert nur, dass alle Werte in derselben Schleife berechnet werden und eben einige nicht stimmen. Sieht jemand den Fehler? Werten evtl. irgendwelche Werte zwischengespeichert und führen dann zu Rechenfehlern?

Viele Grüße Quantenpunkt

Anzeige

Auf den ersten Blick:
Du solltest die lokalen Variablen "Max Wert NIR" und "Max Wert MIR" in
den While-Loop vermeiden und direkt verbinden.

Warum da jetzt was um 100 falsch ist, keine Ahnung. Ohne Messdaten
und einem Graphen der zeigt wo was falsch bereichnet wird kaum zu sagen
was da falsch läuft.

Und nebenbei: Das LabVIEW falsch rechnet glaube ich nicht

Hallo Punkt,

- lokale Variablen sind selten eine gute Idee, wenn man stattdessen einfach einen Draht nehmen könnte...
- Formelknoten sind überbewertet, LabVIEW kann auch sonst gut rechnen:
   
- Fortgesetztes Addieren von "0,01" führt zum Aufsummieren von Fehler, mach dich mal schlau zum Thema Genauigkeit von FloatingPoint-Zahlen!
- Dieses Konstrukt zum Erzeugen einer Werterampe von Min bis Max bei einem Inkrement von 0,01 kann man auch mit der Rampenfunktion erledigen:
   

Die Hinweise von Gerd sind gut und nützlich, ich glaube aber damit ist der Fehler noch nicht gefunden. Z.B der Fehler durch fortgesetztes Aufsummieren von 1e6 Additionen von 0.1 beträgt bei mir gerade mal 1e-6:
   
Es bleibt also bei dem was dali4You schrieb: Ohne Daten, und ohne den Hinweis, welche Werte genau falsch sein sollen, wird eine Analyse kaum möglich sein - zumindest nicht, wenn der Zeitaufwand, den Du uns hier zuzumuten gedenkst, in einem überschaubaren Rahmen bleiben soll.

Danke für die Lösungsvorschläge! Jetzt funktioniert alles...