INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.

LabVIEWForum.de / LabVIEW / LabVIEW Allgemein v / Genauigkeit

Antwort schreiben 

Genauigkeit


Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!
15.08.2012, 11:17
Beitrag #1

DrHoas Offline
LVF-Gelegenheitsschreiber
**


Beiträge: 117
Registriert seit: Oct 2007

2011
2007
DE


Deutschland
 Genauigkeit
Hallo,

wenn ich in ein Double-Anzeigeelement den Wert 0,00267219633160888 reinkopiere, ändert LabVIEW den Wert, sobald ich rausspringe zu 0,00267219633160888006. Es wird also 006 angehängt. Nicht dass das irgendwas ausmacht, es würde mich aber interessieren, warum das passiert. Hat das was mit der Maschinengenauigkeit zu tun?

Gruß

Philipp
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
Genauigkeit - DrHoas - 15.08.2012 11:17
RE: Genauigkeit - jg - 15.08.2012, 11:38
RE: Genauigkeit - DrHoas - 15.08.2012, 12:10

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Genauigkeit passt nicht(String nach Zahl und dann in Array) Bobbycartuner 2 5.847 03.11.2010 16:51
Letzter Beitrag: Bobbycartuner
  Genauigkeit des Zeitstempels erhöhen Lenkrad 3 5.175 07.07.2008 09:11
Letzter Beitrag: Lenkrad

Gehe zu:







Impressum | Datenschutzerklärung | Sponsoren | Werbung / Mediadaten | Nach oben | Zum Inhalt | Mobile Version | RSS-Synchronisation | Cookie Consent Settings | DIAdem-Forum.de| ArduinoForum.de - Das deutschsprachige Arduino Forum |


Copyright © LabVIEWforum.de Community 2004 - 2025