INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Wieder das liebe Runden



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

14.09.2008, 09:06
Beitrag #2

Lucki Offline
Tech.Exp.2.Klasse
LVF-Team

Beiträge: 7.699
Registriert seit: Mar 2006

LV 2016-18 prof.
1995
DE

01108
Deutschland
Wieder das liebe Runden
Irrtum: LabVIEW rundet niemals, es sie dann, du benutzt eine Funktion dafür oder konvertierst eine Gleitkommazahl mit Kommastellen in eine Ganzzahl.

Unter den Anzeigeeigenschafte kann man die Anzahl der sichtbaren Kommastellen einstellen, wobei allerdings die Kommastellen nicht einfach abgeschnitten werden, sondern das was angezeigt wird ist gerundet. Aber intern bleibt in jedem Fall die volle Präzision erhalten.

Etwas anderes ist es, wenn Du eine Zahl in einen String mit z.B nur zwei Kommastellen konvertierst und dann wieder Rück-konvertiest. Dann geht die ursprünglichen Präzision der Zahl unwiderruflich verloren.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Nachrichten in diesem Thema
Wieder das liebe Runden - Donald - 13.09.2008, 17:20
Wieder das liebe Runden - Lucki - 14.09.2008 09:06
Wieder das liebe Runden - Donald - 14.09.2008, 11:36
Wieder das liebe Runden - Lucki - 14.09.2008, 13:02
Wieder das liebe Runden - MikeS81 - 14.09.2008, 15:12
Wieder das liebe Runden - Donald - 24.09.2008, 14:24
Wieder das liebe Runden - Lucki - 24.09.2008, 15:26
Wieder das liebe Runden - Donald - 24.09.2008, 16:06

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  LED-Anzeigeelement mit runden Ecken nixblicker 9 6.492 30.10.2020 09:23
Letzter Beitrag: Lucki
  runden IEEE-Standard dimitri84 7 6.464 19.10.2012 10:30
Letzter Beitrag: dimitri84
  Mathematisch runden DrHoas 3 7.428 27.04.2012 14:52
Letzter Beitrag: GerdW
  Eine zahl runden kcccp 3 14.450 10.06.2009 15:06
Letzter Beitrag: kcccp
  In 5er Schritten runden Peter04 2 7.333 07.06.2008 21:05
Letzter Beitrag: Peter04
  xy-Graph-Plot mit runden 3D-Kanten ThomasB 1 3.334 15.05.2007 16:05
Letzter Beitrag: jg

Gehe zu: