INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Bug bei "Größer-Gleich"



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

25.05.2011, 13:01
Beitrag #1

ChrisT Offline
Spezialist :-)
*


Beiträge: 37
Registriert seit: Feb 2010

2013
2003
DE

96328
Deutschland
Bug bei "Größer-Gleich"
LV- Version: 2010 SP1 (10.0.1)
Nach langem suchen warum mein VI nicht funktioniert bin ich auf einen Bug gestoßen.

Das VI soll nur einen DBL überprüfen ob dieser im "gültigen Byte-Bereich" liegt.
Also wenn die Zahl z.B.

1,0 -> durchreichen
1,1 -> durchreichen
...
1,7 -> durchreichen
1,8 -> auf nächste Ganzahl (2,0) runden

Das funktionierte auch beim testen usw.

Nun in meiner Applikation bin ich zur Adresse 1310,8 (also 1311,0) gekommen. Hier hat mir die Funktion trotzdem 1310,8 ausgegeben.
Als ich mir das ganze mit der "Highlight-Funct." angeschaut habe musste ich feststellen das 0,8>=0,8 bei der funktion "false" ausgibt.

Habe das ganze mit "Im Bereich" gelöst.
Anbei mein VI


Angehängte Datei(en)
2010Snip .vi  Byte voll(SubVI).vi (Größe: 10,12 KB / Downloads: 227)
Webseite des Benutzers besuchen Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
25.05.2011, 13:18 (Dieser Beitrag wurde zuletzt bearbeitet: 25.05.2011 13:21 von Lucki.)
Beitrag #2

Lucki Offline
Tech.Exp.2.Klasse
LVF-Team

Beiträge: 7.699
Registriert seit: Mar 2006

LV 2016-18 prof.
1995
DE

01108
Deutschland
RE: Bug bei "Größer-Gleich"
Bekannte Sache: Bei Realzahlen gibt es kein "gleich", sondern meist nur ein "gleich bis auf soundsoviele Stellen nach dem Komma". Stelle mal bei Deinen Zahlen ganz viele Dezimalstellen dar, dann siehst Du die Unterschiede. Maschinen sind eben auch nur Menschen. Ein Bug ist das nicht.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Gehe zu: