INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

double Wert ist unterschiedlich



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

20.01.2006, 11:11
Beitrag #1

calimero Offline
LVF-Gelegenheitsschreiber
**


Beiträge: 61
Registriert seit: Oct 2005



kA



double Wert ist unterschiedlich
Hallo,

ich habe folgendes Problem:

ich vergleiche zwei double-Werte der eine bekomme ich von einer DLL und der andere errechne ich mit der Multiplikations-Funktion von LV.
Leider bekomme ich da nur ab und zu ein TRUE geliefert obwohl die Werte gleich sind.
z.B:
DLL: 13.50
LV: 13.50

Ich vermute das vielleicht an irgendeiner hinteren Nachkommastelle die Werte sich unterscheiden.
Wie kann man dieses Problem in den Griff bekommen?

Gruss
calimero
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
20.01.2006, 11:34
Beitrag #2

Mr.T Offline
LVF-SeniorMod


Beiträge: 1.007
Registriert seit: Jun 2005

2009
2005
kA

88400
Deutschland
double Wert ist unterschiedlich
Das kommt zum beispiel darauf an, wie genau dieser Zahlenvergleich sein soll.
Spontan fällt mir ein: Auf nächst größere Zahl runden. Um die Kommastellen miteinzubeziehen kannst du vor dem runden ja beide Zahlen z.B. mit 1000 multiplizieren.

Gruß
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  String to Double Problem joerg030284 1 3.305 09.06.2017 13:49
Letzter Beitrag: rolfk
  String in Double wird gerundet sporc 3 3.304 04.04.2017 10:47
Letzter Beitrag: GerdW
  VI-Referenz nach spezifische Klasse (Typ double) wandeln PeteFlosse 2 3.408 06.10.2016 15:44
Letzter Beitrag: PeteFlosse
  Wert an naheliegensten Wert aus Array anpassen TSC 17 9.977 26.07.2016 06:59
Letzter Beitrag: TSC
  Tabelle Integer und Double Werte DA-LabVIEW 1 3.626 25.02.2015 20:36
Letzter Beitrag: GerdW
  Aktueller Wert von vorherigem Wert abziehen Semicon 6 6.354 18.06.2014 16:34
Letzter Beitrag: jg

Gehe zu: