Keithley 2636/ gerundete Stromwerte

Hallo,
ich versuche gerade eine U-I Kennlinie mit dem Keithley 2636 aufzunehmen, es klappt auch alles wunderbar und der graph trägt auch die werte die in die Tabelle geschrieben werden auf,
Leider sind die werte so stark gerundet, dass sie absolut unbrauchbar sind.
Ich habe mit verschiedenen Probes die Fehlerquelle so weit runtergebrochen, dass schon im output des messung, ein völlig falscher wert ankommt,
die werte sind gerundet, dass heißt anstelle von exakten werten rundet das programm für 3-4 Volt alle ströme auf 0.272E-3A und ab 4 Volt auf 0.01A Gerundet werden, anstatt eine schöne U-I diodenkennlinie aufzutragen.

Hat jemand eine Idee wo hier der Schlingel der die Werte rundet stecken könnte?

Mit freundlichen Grüßen

Tobi

Anzeige