INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Genauigkeit passt nicht(String nach Zahl und dann in Array)



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

03.11.2010, 16:35
Beitrag #1

Bobbycartuner Offline
LVF-Grünschnabel
*


Beiträge: 20
Registriert seit: May 2010

9.0.1
2010
de


Deutschland
Genauigkeit passt nicht(String nach Zahl und dann in Array)
Hallo,
habe ein kleines Problem, das ich erst nach ein paar Wochen Arbeit an meinem Programm entdeckt habe.
Ich konvertiere eine String Tabelle in ein Zahlenarray, angeblich mit der Genauigkeit von 15 Stellen.
(Double 64bit reell)
lasse ich mir nun aber das Array anzeigen sind drei Stellen weg dabei aber immer schön gerundet.
Meine Zahlen sehen ungefähr so aus: 1,23456789E-05 mMn (wie in Numerik gelernt) sind das 9 Stellen und sollten somit alle angezeigt werden. Selbst wenn man die Zahl asuschreiben würde wären es 15 Stellen.. 0,0000123456789 (wobei die Stellen ja erst ab der ersten Ziffer ungleich 0 gezählt werden)
Liegt es an der Array Anzeige Funktion oder wird doch falsch von String nach Zahl gewandelt?

Gruß vom Tuner


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
03.11.2010, 16:47 (Dieser Beitrag wurde zuletzt bearbeitet: 03.11.2010 16:47 von Lucki.)
Beitrag #2

Lucki Offline
Tech.Exp.2.Klasse
LVF-Team

Beiträge: 7.699
Registriert seit: Mar 2006

LV 2016-18 prof.
1995
DE

01108
Deutschland
Genauigkeit passt nicht(String nach Zahl und dann in Array)
Eine Realzahl hat intern immer ihre volle Genauigkeit, aber in der Anzeige einer solchen Zahl sind immer nur so viele Stellen zu sehen wie in den Anzeigeeigenschaften vorgegeben. Was ist denn dort eingestellt?
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
03.11.2010, 16:51
Beitrag #3

Bobbycartuner Offline
LVF-Grünschnabel
*


Beiträge: 20
Registriert seit: May 2010

9.0.1
2010
de


Deutschland
Genauigkeit passt nicht(String nach Zahl und dann in Array)
Jo da lag der Fehler. um in die Anzeigeeigenschaften zu gelangen muss man aber nicht(wie ich es immer versucht habe)
rechtsklick auf das gesamte Array, sondern auf ein Feld. Dort findet man dann auch Anzeigeeigenschaften, die auf 6 Stellen Genauigkeit stand.

Bedankt
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Messwert für eine gewisse Zeit (~5sek.) speichern und dann erst ausgeben niklas2016 8 3.922 31.03.2021 09:35
Letzter Beitrag: GerdW
  Bestimmte Zeilen im Array löschen wenn Bedingung nicht erfüllt ist bachatero18 4 4.656 31.03.2020 14:49
Letzter Beitrag: bachatero18
Question MONATSverbrauch aus TAGES-String-Array berechnen Blondchen 1 4.052 19.02.2020 16:21
Letzter Beitrag: GerdW
  String in Array speichern für flexible Gruppenbenennung in TDMS Datei hansi_1 3 3.448 10.12.2019 09:45
Letzter Beitrag: Freddy
  String nach Enum konvertieren NoWay 2 4.225 20.08.2019 10:58
Letzter Beitrag: NoWay
  Dezimal-String nach Zahl Funktion ares2013 4 4.452 10.04.2019 13:12
Letzter Beitrag: jg

Gehe zu: