Wieso funktioniert das "=" nicht?

' schrieb:Das ist mir auch klar. Nur entsteht die Zahl bei mir durch das Einlesen aus einem String. Und bei der String-Zahl Konvertierung habe ich genau zwei Nachkommastellen als Genauigkeit. Oder kann dort, auch wenn man es anders angibt, eine "krumme" Zahl, wie Du sie als Beispiel hattest entstehen?

Ja das kann! Um einen String in eine Zahl zu verwandeln muss man rechnen. Dezimalzahlen haben aber die unangenehme Eigenschaft dass sie die Basis 10 haben die sich leider im binären Format des Computers nicht exakt darstellen lässt, wenn man mit Nachkommastellen arbeitet. (Versuch mal 0.1 einzugeben und dann erweitere die Darstellung des Numeric Controls um 20 Stellen nach dem Komma zu zeigen!)

Also Du hast die Zahl 12.345 als String. Die String->Zahl Umwandlung macht dann ungefähr so etwas wie:

resultat = (((((1 * 10 + 2) * 10 + 3) * 10 + 4) * 10 + 5) / 1000

Das Ganze kann noch optimalisiert werden aber das Prinzip bleibt.

Es dürfte wohl deutlich sein dass bei solchen Berechnungen mit Fliesskommazahlen und Zahlen die nicht exakt Vielfache von 2 sind die Genauigkeit des Resultats "nur" im Rahmen der Basisgenauigkeit des Zahlentyps ist. Diese ist ungefähr 8 dezimale Stellen bei Single-Precision Floats und ungefähr 14 dezimale Stellen bei Double-Precision Floats.

Rolf Kalbermatter