Flatten to xml -> Zahlen fehlerhaft

Baumstrukturmodus | Linearer Modus

Flatten to xml -> Zahlen fehlerhaft

Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

18.11.2011, 10:31 (Dieser Beitrag wurde zuletzt bearbeitet: 18.11.2011 10:39 von unicorn.)

Beitrag #5

unicorn Offline

LVF-Freak

Beiträge: 680
Registriert seit: Jul 2009

8.6.1, 2010 - 2012
1994
EN

10xxx
Deutschland

RE: Flatten to xml -> Zahlen fehlerhaft

Nummerische Werte werden mit maximaler Stellenanzahl formatiert als String ausgegeben. Da sieht man dass im Computer Fließkommazahlen diskret sind.

Da eine XML-Datei auch für Menschen lesbar sein soll, wird die Fließkommazahl nicht binär ausgegeben (dann würde Dir die Diskretisierung gar nicht auffallen) sondern als String formatiert. Und das mit voller Stellenzahl, damit beim Einlesen wieder die gleiche Zahl im Speicher steht.

Beim String gibt es nichts umzuwandeln. Der kann 1:1 ausgegeben werden.

Vielleicht hilft das hier noch weiter: http://de.wikipedia.org/wiki/Gleitkommazahl