INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

gelesene txt in Nachkomma stellen ungenau



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

27.06.2006, 18:22
Beitrag #7

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
gelesene txt in Nachkomma stellen ungenau
<div align="left">Hallo,

ich habe mir jetzt zwar nicht dein VI angeschaut, aber mal eine prinzipielle Bemerkung:

Bis auf wenige mathematische Sonderprogramme (mir fällt da gerade MATHEMATICA ein) kommt es bei allen Programmiersprachen bei der Darstellung von Fließkommazahlen im Computer zu "Ungenauigkeiten", je nachdem auf wie viele Stellen man schaut. Das hängt mit der Art der Darstellung von Fließkommazahlen im Dezimalformat im Binärformat des Computers dar.

Es ist also nicht sonderlich erstaunlich, wenn vor allem bei "Single float" (4 bytes) aus einer 4,6 eine 4,5999999147 wird. Siehe hierzu z.B. auch diese Seite von NI oder auch diese Seite.

Eugen hat prinzipiell recht, "Double float" (8 bytes) Variablen haben eine wesentlich höhere Genauigkeit, wenn man das Ganze aber mit meinetwegen 25 oder sogar mehr Nachkommastellen macht, sieht man wieder minimale Abweichungen.

Also, mit diesen "Ungenauigkeiten" muss man leben.

MfG
Jens</div>

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
gelesene txt in Nachkomma stellen ungenau - jg - 27.06.2006 18:22

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
Exclamation Wert mit 3 Stellen herrausfiltern Dany83 9 5.584 08.09.2015 21:14
Letzter Beitrag: Trinitatis
  Numerisches Anzeigeelement von 2 Stellen im code beschreiben Mrindfleisch 2 4.848 17.02.2011 15:54
Letzter Beitrag: Mrindfleisch
  Eigene Marker an definierten Stellen eines Schiebereglers? Sascha_ 2 4.536 17.01.2011 09:27
Letzter Beitrag: Sascha_
  Werte in bestimmten Stellen einer Tabelle eintragen Napoleon 11 11.199 13.01.2011 16:22
Letzter Beitrag: GerdW
  Werte in einem Array an definierten Stellen einfügen stud_lab 9 9.882 24.07.2008 14:26
Letzter Beitrag: Kvasir
  Fract/Exp String To Number hat immer nur 6 Stellen. Y-P 2 4.713 23.04.2008 15:18
Letzter Beitrag: Y-P

Gehe zu: