Messgenauigkeit, Auflösung

(20.12.2011 09:08 )GerdW schrieb:  was ich damit sagen wollte:
Du gibst hier Spannungswerte mit 7 Dezimalstellen an, das entspricht einem ADC mit ~24bit Auflösung. Jetzt willst du das ganze mit einem 12bit ADC messen: das sind ganze ~3.6 Dezimalstellen! Dein ADC spuckt also nicht "23,50636V bis 23,30097V" aus, sondern "23,51 bis 23,30V" (überschlagsmäßig).

Hierzu passend der Spruch von C. F. Gauß:
"Der Mangel an mathematischer Bildung gibt sich durch nichts so auffallend zu erkennen wie durch maßlose Schärfe im Zahlenrechnen."