INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

String in Double wird gerundet



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

04.04.2017, 09:14
Beitrag #1

sporc Offline
LVF-Neueinsteiger


Beiträge: 4
Registriert seit: Mar 2017

2010
-
DE



String in Double wird gerundet
Hey Leute,
ich bekomme einen String-Array mit 5 Werten und muss diese für weitere Berechnungen in Double konvertieren. Soweit habe ich das auch hinbekommen, aber manchmal werden einige Zahlen gerundet. Kann ich LabView irgendwie sagen, dass ich zb immer 6 Nachkommastellen haben möchte? Zur Verdeutlichung des Problems habe ich mal ein Bild angehangen.
Vielen Dank


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
04.04.2017, 09:18
Beitrag #2

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
RE: String in Double wird gerundet
Ändere die Darstellung im Frontpanel! Rechtsklick auf Numeric -> Display Format

Gruß, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
04.04.2017, 10:38
Beitrag #3

sporc Offline
LVF-Neueinsteiger


Beiträge: 4
Registriert seit: Mar 2017

2010
-
DE



RE: String in Double wird gerundet
Super, vielen Dank!
Manchmal ist die Lösung so einfach. Ich hatte zwar sechs Stellen eingestellt, aber der Genauigkeitstyp war auf "signifikante Stellen" statt "Kommastellen" gestellt. Wenn ich das richtig verstehe ist das aber nur eine Einstellung der Anzeige, oder? Also im Speicher sind immer alle Kommastellen vorhanden, unabhängig von der Anzeige?
Beste Grüße
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
04.04.2017, 10:47
Beitrag #4

GerdW Offline
______________
LVF-Team

Beiträge: 17.412
Registriert seit: May 2009

LV2021
1995
DE_EN

10×××
Deutschland
RE: String in Double wird gerundet
Hallo sporc,

Zitat:Also im Speicher sind immer alle Kommastellen vorhanden, unabhängig von der Anzeige?
Ja.
Das gilt immer, also auch bei Konstanten im BD.
Oder auch bei Strings: hier kann man auch den Anzeigemodus anpassen…

Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  String to Double Problem joerg030284 1 3.213 09.06.2017 13:49
Letzter Beitrag: rolfk
  VI-Referenz nach spezifische Klasse (Typ double) wandeln PeteFlosse 2 3.323 06.10.2016 15:44
Letzter Beitrag: PeteFlosse
  Tabelle Integer und Double Werte DA-LabVIEW 1 3.572 25.02.2015 20:36
Letzter Beitrag: GerdW
  Double in 1D Array umwandeln? BunterLoewe 33 23.294 10.02.2014 23:49
Letzter Beitrag: BunterLoewe
  1D Array in - Element Double BunterLoewe 10 10.192 29.01.2014 15:30
Letzter Beitrag: Lucki
  Double zahl aus String cRyo 4 4.624 05.11.2013 22:04
Letzter Beitrag: cRyo

Gehe zu: