03.11.2010, 16:35
Hallo,
habe ein kleines Problem, das ich erst nach ein paar Wochen Arbeit an meinem Programm entdeckt habe.
Ich konvertiere eine String Tabelle in ein Zahlenarray, angeblich mit der Genauigkeit von 15 Stellen.
(Double 64bit reell)
lasse ich mir nun aber das Array anzeigen sind drei Stellen weg dabei aber immer schön gerundet.
Meine Zahlen sehen ungefähr so aus: 1,23456789E-05 mMn (wie in Numerik gelernt) sind das 9 Stellen und sollten somit alle angezeigt werden. Selbst wenn man die Zahl asuschreiben würde wären es 15 Stellen.. 0,0000123456789 (wobei die Stellen ja erst ab der ersten Ziffer ungleich 0 gezählt werden)
Liegt es an der Array Anzeige Funktion oder wird doch falsch von String nach Zahl gewandelt?
Gruß vom Tuner
habe ein kleines Problem, das ich erst nach ein paar Wochen Arbeit an meinem Programm entdeckt habe.
Ich konvertiere eine String Tabelle in ein Zahlenarray, angeblich mit der Genauigkeit von 15 Stellen.
(Double 64bit reell)
lasse ich mir nun aber das Array anzeigen sind drei Stellen weg dabei aber immer schön gerundet.
Meine Zahlen sehen ungefähr so aus: 1,23456789E-05 mMn (wie in Numerik gelernt) sind das 9 Stellen und sollten somit alle angezeigt werden. Selbst wenn man die Zahl asuschreiben würde wären es 15 Stellen.. 0,0000123456789 (wobei die Stellen ja erst ab der ersten Ziffer ungleich 0 gezählt werden)
Liegt es an der Array Anzeige Funktion oder wird doch falsch von String nach Zahl gewandelt?
Gruß vom Tuner