INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

runden IEEE-Standard



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

19.10.2012, 09:36 (Dieser Beitrag wurde zuletzt bearbeitet: 19.10.2012 09:39 von GerdW.)
Beitrag #7

GerdW Offline
______________
LVF-Team

Beiträge: 17.515
Registriert seit: May 2009

LV2019 (LV2021)
1995
DE_EN

10×××
Deutschland
RE: runden IEEE-Standard
Hallo Dimitri,

- Die Stringfunktion rundet aber auch falsch, zumindest in deinem Bild oben. Das korrekte Ergebnis deiner Rundung lautet "1,52", zumindest nach IEEE ("bankers rounding").
- Das Ergebnis deiner Rechnung ("1,52000000000000002000") enthält auch wieder Rundungsfehler, da IEEE-Floats keine Zehnerbrüche darstellen können.
- Mit EXT sieht die Sache (zumindest bei deinem Beispielwert) anders/"korrekter" aus...

Mit Floats zu rechnen birgt immer Unsicherheiten. Die muss man kennen und in Kauf nehmen...

Abgesehen davon gibt es (glaube ich) in diesem Forum schon andere Threads, die sich mit Float-Rechengenauigkeit beschäftigen. Im NI-Forum auf alle Fälle auch!

Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Nachrichten in diesem Thema
runden IEEE-Standard - dimitri84 - 18.10.2012, 20:26
RE: runden IEEE-Standard - jg - 18.10.2012, 20:53
RE: runden IEEE-Standard - dimitri84 - 18.10.2012, 21:23
RE: runden IEEE-Standard - Y-P - 19.10.2012, 06:21
RE: runden IEEE-Standard - GerdW - 19.10.2012, 08:41
RE: runden IEEE-Standard - dimitri84 - 19.10.2012, 09:22
RE: runden IEEE-Standard - GerdW - 19.10.2012 09:36
RE: runden IEEE-Standard - dimitri84 - 19.10.2012, 10:30

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  LED-Anzeigeelement mit runden Ecken nixblicker 9 6.448 30.10.2020 09:23
Letzter Beitrag: Lucki
  Tastenkombination "aktuellen Wert als Standard" A.Limbach 2 4.127 05.12.2014 11:03
Letzter Beitrag: A.Limbach
  Silber-Schema als Standard bei DAQmx zig 5 5.669 26.08.2014 10:25
Letzter Beitrag: jg
  Dateien mit Windows-Standard-Programm öffnen DrHoas 5 6.627 17.09.2013 15:59
Letzter Beitrag: GerdW
  Strict TypeDef in Standard VI abändern Wendigo 6 7.850 12.12.2012 21:53
Letzter Beitrag: jg
  Eigenschaften des xy-Graphen als Standard setzen cuber1 5 5.633 22.11.2012 17:32
Letzter Beitrag: cuber1

Gehe zu: