INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Datengenauigkeit



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

06.08.2013, 11:11
Beitrag #1

Trinitatis Offline
LVF-Guru
*****


Beiträge: 1.673
Registriert seit: May 2008

7.1 / 8.0 /2014-1, 18
2002
DE

18055
Deutschland
Datengenauigkeit
Hallo zusammen,

ich habe gerade mal sowohl in LV 8.0, als auch in LV2011 die abgebildete Rechnung ausführen lassen, bei welcher ich mir den Unterschied im Resultat nicht erklären kann.
In der oberen Variante sollte eigentlich "0" und nicht E-19 rauskommen und in der unteren Variante sollte, wenn schon in der oberen E-19 rauskommt, doch auch irgendsowas krummes rauskommen. Der Unterschied liegt ja lediglich im anderen Offset.

Alle Konstanten sind übrigens vom Typ erweiterte Genauigkeit.

Nicht, dass diese E-19 kriegsentscheidend wären - ich verstehe es nur nicht!Hmm

Hat jemand eine Idee dazu?


Gruß, Marko


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
06.08.2013, 11:37
Beitrag #2

jg Offline
CLD & CLED
LVF-Team

Beiträge: 15.411
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
RE: Datengenauigkeit
"Standard-Ergebnis" bei Gleitkomma-Arithmetik. Da nützt dir auch "Extended" wenig. Und die Anzeige im Frontpanel ist im Normalfall auf signifikante 6 Stellen begrenzt.

Gruß, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
06.08.2013, 11:45
Beitrag #3

Trinitatis Offline
LVF-Guru
*****


Beiträge: 1.673
Registriert seit: May 2008

7.1 / 8.0 /2014-1, 18
2002
DE

18055
Deutschland
RE: Datengenauigkeit
(06.08.2013 11:37 )jg schrieb:  "Standard-Ergebnis" bei Gleitkomma-Arithmetik. Da nützt dir auch "Extended" wenig. Und die Anzeige im Frontpanel ist im Normalfall auf signifikante 6 Stellen begrenzt.

Gruß, Jens


Das mit der erweiterten Genauigkeit war nur ´ne Info, da man das nicht sehen kann im JPG.

Die Kommastellen kann ich auch mit 25 anzeigen (s. Bild). Da habe ich dann die beschriebenen Unterschiede. Im Quellcode besteht der Unterschied darin, dass einmal 0 und einmal 1 dazuaddiert wird. Es kommt aber nicht dasselbe heraus (abgesehen von diesem Offset)


Gruß, Marko


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
06.08.2013, 11:49 (Dieser Beitrag wurde zuletzt bearbeitet: 06.08.2013 11:51 von GerdW.)
Beitrag #4

GerdW Offline
______________
LVF-Team

Beiträge: 16.075
Registriert seit: May 2009

09SP1, 11SP1, 17 (selten 19)
1995
DE_EN

10×××
Deutschland
RE: Datengenauigkeit
Hallo Marko,

was erwartest du für ein Ergebnis, wenn du 1e0 zu 6e-17 addierst - bei einer minimalen Auflösung (epsilon in der Numerics-Palette!) von 2e-16 (alle Werte als DBL)?
   

Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
06.08.2013, 12:03
Beitrag #5

Trinitatis Offline
LVF-Guru
*****


Beiträge: 1.673
Registriert seit: May 2008

7.1 / 8.0 /2014-1, 18
2002
DE

18055
Deutschland
RE: Datengenauigkeit
(06.08.2013 11:49 )GerdW schrieb:  ...bei einer minimalen Auflösung (epsilon in der Numerics-Palette!) von 2e-16 (alle Werte als DBL)?

...ja das kann ja keiner ahnenBlink


Gruß, Marko
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
06.08.2013, 12:43
Beitrag #6

Lucki Offline
Tech.Exp.2.Klasse
LVF-Team

Beiträge: 7.670
Registriert seit: Mar 2006

LV 2016-18 prof.
1995
DE

01108
Deutschland
RE: Datengenauigkeit
Diese lästige Anzeige sehr kleiner Werte anstatt Null kommt ja nur dadurch zustande, dass die Voreisntellung für das Anzeigeformat "Automatisch" ist. Da versucht Labview auf Teufel komm raus die sehr kleine Zahl, die nur ein Restfehler ist, darzustellen. Das läßt sich doch leicht ändern.
Bei mir ist übrigens der absolute Fehler mit und ohne Offset etwa geich groß und etwa gleich der Maschinengenauigkeit:

   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
Antwort schreiben 


Gehe zu: