INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

String to Double Problem



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

09.06.2017, 13:33
Beitrag #1

joerg030284 Offline
LVF-Grünschnabel
*


Beiträge: 22
Registriert seit: Apr 2011

8.6
2011
EN


Deutschland
String to Double Problem
Hallo!

Habe das Problem siehe Screenshot. Warum kann Labview den String nicht genau übernehmen?

Danke für die Hilfe,
Jörg


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
09.06.2017, 13:49 (Dieser Beitrag wurde zuletzt bearbeitet: 09.06.2017 13:54 von rolfk.)
Beitrag #2

rolfk Offline
LVF-Guru
*****


Beiträge: 2.302
Registriert seit: Jun 2007

alle seit 6.0
1992
EN

2901GG
Niederlande
RE: String to Double Problem
(09.06.2017 13:33 )joerg030284 schrieb:  Hallo!

Habe das Problem siehe Screenshot. Warum kann Labview den String nicht genau übernehmen?

Danke für die Hilfe,
Jörg

Das hatten wir schon x Mal hier. Gleitkommazahlen können die meisten Werte nur bei Annäherung beschreiben. Solange Du weniger als die mögliche Anzahl Dezimalstellen sichtbar machst in einem numerischen Kontroll solltest Du davon normalerweise nichts sehen. Aber eine DOUBLE Gleitkommazahl kan nur ungefähr 16 Dezimalen korrekt beinhalten. Wenn Du dann mehr dann 16 Dezimalen im Kontroll sichtbar machst, kommt es zu diesem scheinbaren Problem. Um jede mögliche Gleitkommazahl genau exakt darstellen zu können müsste das Format unendlich viele Bytes per Zahl beinhalten können und das ist auch mit noch so integrierten Speicherbausteinen keine Option.

Siehe dazu auch https://de.wikipedia.org/wiki/Gleitkommazahl (ist schon recht ausführlich aber wenn Du auf Englisch suchst kannst Du noch VIEL mehr finden)!

Rolf Kalbermatter
Technische Universität Delft, Dienst Elektronik und Mechanik
https://blog.kalbermatter.nl
Webseite des Benutzers besuchen Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  String in Double wird gerundet sporc 3 3.158 04.04.2017 10:47
Letzter Beitrag: GerdW
  VI-Referenz nach spezifische Klasse (Typ double) wandeln PeteFlosse 2 3.287 06.10.2016 15:44
Letzter Beitrag: PeteFlosse
  String durchsuchen Problem HTL_HL 21 11.813 18.12.2015 11:33
Letzter Beitrag: HTL_HL
  Problem mit Zahl zu Hex String Bishop 7 5.864 16.06.2015 13:51
Letzter Beitrag: Bishop
  Tabelle Integer und Double Werte DA-LabVIEW 1 3.547 25.02.2015 20:36
Letzter Beitrag: GerdW
  Double in 1D Array umwandeln? BunterLoewe 33 23.063 10.02.2014 23:49
Letzter Beitrag: BunterLoewe

Gehe zu: