INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Dieses Thema hat akzeptierte Lösungen:

Rechengenauigkeit



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

27.09.2016, 08:45
Beitrag #2

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
RE: Rechengenauigkeit
Dann beschäftige dich einmal mit Gleitkommazahlen. Das Problem ist, dass z.B. eine Zahl 0,1 weder im Format Single noch Double noch Extended exakt im Computer dargestellt werden kann.

Gruß, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Nachrichten in diesem Thema
Rechengenauigkeit - delf - 27.09.2016, 08:33
RE: Rechengenauigkeit - jg - 27.09.2016 08:45
RE: Rechengenauigkeit - GerdW - 27.09.2016, 09:13
RE: Rechengenauigkeit - delf - 27.09.2016, 09:39
RE: Rechengenauigkeit - GerdW - 27.09.2016, 10:43
RE: Rechengenauigkeit - jg - 27.09.2016, 14:37

Gehe zu: