INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Datengenauigkeit



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

06.08.2013, 11:11
Beitrag #1

Trinitatis Offline
LVF-Guru
*****


Beiträge: 1.694
Registriert seit: May 2008

7.1 / 8.0 /2014-1, 18
2002
DE

18055
Deutschland
Datengenauigkeit
Hallo zusammen,

ich habe gerade mal sowohl in LV 8.0, als auch in LV2011 die abgebildete Rechnung ausführen lassen, bei welcher ich mir den Unterschied im Resultat nicht erklären kann.
In der oberen Variante sollte eigentlich "0" und nicht E-19 rauskommen und in der unteren Variante sollte, wenn schon in der oberen E-19 rauskommt, doch auch irgendsowas krummes rauskommen. Der Unterschied liegt ja lediglich im anderen Offset.

Alle Konstanten sind übrigens vom Typ erweiterte Genauigkeit.

Nicht, dass diese E-19 kriegsentscheidend wären - ich verstehe es nur nicht!Hmm

Hat jemand eine Idee dazu?


Gruß, Marko


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
30
Antwort schreiben 


Nachrichten in diesem Thema
Datengenauigkeit - Trinitatis - 06.08.2013 11:11
RE: Datengenauigkeit - jg - 06.08.2013, 11:37
RE: Datengenauigkeit - Trinitatis - 06.08.2013, 11:45
RE: Datengenauigkeit - GerdW - 06.08.2013, 11:49
RE: Datengenauigkeit - Trinitatis - 06.08.2013, 12:03
RE: Datengenauigkeit - Lucki - 06.08.2013, 12:43

Gehe zu: