Datengenauigkeit

Baumstrukturmodus | Linearer Modus

Datengenauigkeit

Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

06.08.2013, 11:49 (Dieser Beitrag wurde zuletzt bearbeitet: 06.08.2013 11:51 von GerdW.)

Beitrag #4

GerdW

______________
LVF-Team

Beiträge: 17.518
Registriert seit: May 2009

LV2019 (LV2021)
1995
DE_EN

10×××
Deutschland

RE: Datengenauigkeit

Hallo Marko,

was erwartest du für ein Ergebnis, wenn du 1e0 zu 6e-17 addierst - bei einer minimalen Auflösung (epsilon in der Numerics-Palette!) von 2e-16 (alle Werte als DBL)?

LabVIEW basics - LabVIEW training - Students LabVIEW training - Learn NI
THINK DATAFLOW - Race Condition
DAQmx-Basics - FP numerics basics - FP numerics 2

Diese Nachricht in einer Antwort zitieren

« Ein Thema zurück | Ein Thema vor »

Nachrichten in diesem Thema

Datengenauigkeit - Trinitatis - 06.08.2013, 11:11

RE: Datengenauigkeit - jg - 06.08.2013, 11:37

RE: Datengenauigkeit - Trinitatis - 06.08.2013, 11:45

RE: Datengenauigkeit - GerdW - 06.08.2013 11:49

RE: Datengenauigkeit - Trinitatis - 06.08.2013, 12:03

RE: Datengenauigkeit - Lucki - 06.08.2013, 12:43

Gehe zu:

Das Forum für LabVIEW-Entwickler