INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Dieses Thema hat akzeptierte Lösungen:

Rechengenauigkeit



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

27.09.2016, 08:33 (Dieser Beitrag wurde zuletzt bearbeitet: 27.09.2016 08:41 von delf.)
Beitrag #1

delf Offline
LVF-Grünschnabel
*


Beiträge: 12
Registriert seit: Feb 2009

15.0.1.f2 (64bit)
2000
DE_EN

31139
Deutschland
Rechengenauigkeit
Hallo Zusammen,

ich habe ein kleines Programm geschrieben, welches die Anzahl der Nachkommastellen bestimmen soll.In dem Programm benutze ich die Funktion "Quotient & Reminder". Leider rundet die Funktion "Quotient & Reminder", so dass am Ende mein Programm nicht funktionert. Ich habe die unterschiedlichsten Dinge mit den Zahlenformaten versucht. Leider hilft das alles nicht. Vielleicht findet ja jemand meinen Denkfehler.

Danke


Angehängte Datei(en) Thumbnail(s)
       

15.0 .vi  Nachkommastellen_2.vi (Größe: 8,51 KB / Downloads: 29)
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
27.09.2016, 08:45
Beitrag #2

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.495
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
RE: Rechengenauigkeit
Dann beschäftige dich einmal mit Gleitkommazahlen. Das Problem ist, dass z.B. eine Zahl 0,1 weder im Format Single noch Double noch Extended exakt im Computer dargestellt werden kann.

Gruß, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
27.09.2016, 09:13 (Dieser Beitrag wurde zuletzt bearbeitet: 27.09.2016 09:13 von GerdW.)
Beitrag #3

GerdW Offline
______________
LVF-Team

Beiträge: 16.301
Registriert seit: May 2009

11SP1, 17SP1 (ab und zu 19)
1995
DE_EN

10×××
Deutschland
RE: Rechengenauigkeit

Akzeptierte Lösung

Hallo delf,

falls du Jens' Signatur nicht genug Beachtung zollen solltest, hast du jetzt direkten Zugriff auf meine…

Im NI-Forum gibt es eine (virtuelle) Phrasenschwein-Kasse für genau deine Frage: leider wissen viele Leute nicht um die Grenzen der Rechengenauigkeit eines handelsüblichen Computers… Big Grin

Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
27.09.2016, 09:39
Beitrag #4

delf Offline
LVF-Grünschnabel
*


Beiträge: 12
Registriert seit: Feb 2009

15.0.1.f2 (64bit)
2000
DE_EN

31139
Deutschland
RE: Rechengenauigkeit
Hallo Jens und Gerd,
ich bin mir des Themas bewusst. Sonst hätte ich es auch nicht gleich in die Betreff Zeile geschrieben. Ich werde das Themas also noch mal neu mit dem Betreff "Bestimmung von Nachkommastellen" aufmachen. Vielleicht bekommt ich dann sinnvolle Hilfe.

Danke an euch.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
27.09.2016, 10:43 (Dieser Beitrag wurde zuletzt bearbeitet: 27.09.2016 10:44 von GerdW.)
Beitrag #5

GerdW Offline
______________
LVF-Team

Beiträge: 16.301
Registriert seit: May 2009

11SP1, 17SP1 (ab und zu 19)
1995
DE_EN

10×××
Deutschland
RE: Rechengenauigkeit
Hallo delf,

Zitat:ich bin mir des Themas bewusst. Sonst hätte ich es auch nicht gleich in die Betreff Zeile geschrieben.
Dein Thema lautet "Rechengenauigkeit" und ich kann dir versichern, dass Q&R so genau rechnet, wie es mit FloatingPoint-Zahlen eben möglich ist!

Zitat:Ich werde das Themas also noch mal neu mit dem Betreff "Bestimmung von Nachkommastellen" aufmachen.
Du musst jetzt keinen neuen Thread aufmachen - du solltest nur mal genau beschreiben, was du eigentlich erreichen willst!

Zitat:Vielleicht bekommt ich dann sinnvolle Hilfe.
Du bekommst immer genau das geliefert, wonach du fragst.
Und bisher hast du dich nur darüber beschwert, dass Q&R eben nach den Rechenregeln für FloatingPoint-Zahlen rechnet…

Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
27.09.2016, 14:37
Beitrag #6

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.495
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
RE: Rechengenauigkeit
Es gibt für deine Frage IMHO keine richtige Antwort, s. hierzu das folgende Bsp:
   
Obwohl manuell 5,1 als Zahlenwert eingegeben wurde, hängt die Anzahl der (sichtbaren) Nachkommastellen von der Formatierung des Numeric-Elements ab. Und das hat jetzt nichts mir Quotient & Reminder zu tun. Es könnte ja auch sein, dass als Zahl wirklich 5,0999999 eingegeben wurde.

Gruß, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
Antwort schreiben 


Gehe zu: