Fehler mit Vergleichsoperatoren

Baumstrukturmodus | Linearer Modus

Fehler mit Vergleichsoperatoren

Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

01.07.2010, 10:01

Beitrag #10

IchSelbst Offline

LVF-Guru

Beiträge: 3.704
Registriert seit: Feb 2005

11, 14, 15, 17, 18
-
DE

97437
Deutschland

Fehler mit Vergleichsoperatoren

' schrieb:Da mein Wertebereich zurzeit max. 2 Nachkommastellen verlang, lass ich in der Schleife zuerst eine Multiplikation mit 100 durchführen, dann konvertiere ich den aktuellen Wert in einen LongInteger und führe anschließend eine Division mit 100 durch ... und tada !!! Das VI macht das, was es machen soll

Wie wär's denn, statt dbl i32 zu verwenden. Ganzzahlen haben von Natur aus keine Rundungsfehler.

Jeder, der zur wahren Erkenntnis hindurchdringen will, muss den Berg Schwierigkeit alleine erklimmen (Helen Keller).

« Ein Thema zurück | Ein Thema vor »

Nachrichten in diesem Thema

Fehler mit Vergleichsoperatoren - max1185 - 30.06.2010, 22:31

Fehler mit Vergleichsoperatoren - Achim - 01.07.2010, 06:31

Fehler mit Vergleichsoperatoren - jg - 01.07.2010, 07:55

Fehler mit Vergleichsoperatoren - RoLe - 01.07.2010, 08:25

Fehler mit Vergleichsoperatoren - max1185 - 01.07.2010, 08:57

Fehler mit Vergleichsoperatoren - IchSelbst - 01.07.2010, 09:16

Fehler mit Vergleichsoperatoren - jg - 01.07.2010, 09:27

Fehler mit Vergleichsoperatoren - max1185 - 01.07.2010, 09:41

Fehler mit Vergleichsoperatoren - RoLe - 01.07.2010, 09:41

Fehler mit Vergleichsoperatoren - IchSelbst - 01.07.2010 10:01

Fehler mit Vergleichsoperatoren - GerdW - 01.07.2010, 10:17

Fehler mit Vergleichsoperatoren - max1185 - 01.07.2010, 10:56

Fehler mit Vergleichsoperatoren - GerdW - 01.07.2010, 11:18

Fehler mit Vergleichsoperatoren - max1185 - 01.07.2010, 11:44

Fehler mit Vergleichsoperatoren - GerdW - 01.07.2010, 11:52

Fehler mit Vergleichsoperatoren - Y-P - 01.07.2010, 18:54

Fehler mit Vergleichsoperatoren - max1185 - 01.07.2010, 19:21

Möglicherweise verwandte Themen...
Themen		Verfasser	Antworten	Views	Letzter Beitrag
	Fehler -209836, jetzt auch Fehler -1950679023	IchSelbst	3	2.243	19.12.2024 09:35 Letzter Beitrag: IchSelbst
	"Seltsamer Fehler", LabView-Anwendung erzeugt einen Fehler 2200	ASM	5	8.502	23.01.2011 17:40 Letzter Beitrag: Y-P

Gehe zu:

Das Forum für LabVIEW-Entwickler

Fehler mit Vergleichsoperatoren