INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Keithley 2636/ gerundete Stromwerte



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

12.06.2012, 13:32
Beitrag #1

Gahlunke Offline
LVF-Neueinsteiger


Beiträge: 5
Registriert seit: Jun 2012

10.0.1
2012
EN



Keithley 2636/ gerundete Stromwerte
Hallo,
ich versuche gerade eine U-I Kennlinie mit dem Keithley 2636 aufzunehmen, es klappt auch alles wunderbar und der graph trägt auch die werte die in die Tabelle geschrieben werden auf,
Leider sind die werte so stark gerundet, dass sie absolut unbrauchbar sind.
Ich habe mit verschiedenen Probes die Fehlerquelle so weit runtergebrochen, dass schon im output des messung, ein völlig falscher wert ankommt,
die werte sind gerundet, dass heißt anstelle von exakten werten rundet das programm für 3-4 Volt alle ströme auf 0.272E-3A und ab 4 Volt auf 0.01A Gerundet werden, anstatt eine schöne U-I diodenkennlinie aufzutragen.

Hat jemand eine Idee wo hier der Schlingel der die Werte rundet stecken könnte?

Mit freundlichen Grüßen

Tobi


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
12.06.2012, 13:39
Beitrag #2

macmarvin Offline
CLA
***


Beiträge: 445
Registriert seit: Sep 2006

2014
2004
EN

81373
Deutschland
RE: Keithley 2636/ gerundete Stromwerte
Dein Screenshot ist für die Frage wenig aussagekräftig, da darin noch alles als String ist.
Zeig doch mal die Stellen wo du mit numerischen Daten hantierst.

(Mein Tipp: Der String wird mitm falschen Dezimaltrenner geparst)
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
12.06.2012, 14:28
Beitrag #3

Gahlunke Offline
LVF-Neueinsteiger


Beiträge: 5
Registriert seit: Jun 2012

10.0.1
2012
EN



RE: Keithley 2636/ gerundete Stromwerte
Also ich hab direkt vor dem output mit einer probe schon den falschen wert der sich durch alle oberen ebenen durch hält. Wo soll ich denn tiefer reingehen um zu gucken was passiert?
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
12.06.2012, 14:54
Beitrag #4

macmarvin Offline
CLA
***


Beiträge: 445
Registriert seit: Sep 2006

2014
2004
EN

81373
Deutschland
RE: Keithley 2636/ gerundete Stromwerte
Wenn du keinerlei Berechnungen/Wandlungen mit den Daten des Keithleys machst und du trotzdem unsinnige Werte bekommst, würde ich auf ein Problem des Keithleys tippen. Irgendwas falsch eingestellt oder gar der Gerät defekt?!?
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
12.06.2012, 15:20 (Dieser Beitrag wurde zuletzt bearbeitet: 12.06.2012 15:22 von GerdW.)
Beitrag #5

GerdW Offline
______________
LVF-Team

Beiträge: 17.398
Registriert seit: May 2009

LV2021
1995
DE_EN

10×××
Deutschland
RE: Keithley 2636/ gerundete Stromwerte
Hallo,

noch ein Einwurf:
Es soll schon mal vorgekommen sein, dass Gerätetreiber nicht auf das Dezimaltrennzeichen des OS achten und deshalb Probleme in D bekommen. Einfach mal im entsprechenden VI des Keithley-Treibers nach der Umwandlung String-zu-Zahl suchen und dort prüfen...

Aber abgesehen davon:
Zitat:anstelle von exakten werten rundet das programm für 3-4 Volt alle ströme auf 0.272E-3A und ab 4 Volt auf 0.01A Gerundet werden
(Etwas bessere Grammatik hätte dem Verständnis nicht geschadet...)
Es scheinen ja trotzdem floats anzukommen, was nicht für das o.a. Szenario spricht. Also vielleicht doch eher ein Messgeräte-Problem?

Aber bisher mutmaßen wir nur auf Grundlage eines Bildes eines BD, ohne ein echtes VI zu begutachten oder aussagekräftige Bilder mit aktuellen Messwerten zu sehen... Glas1

Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
12.06.2012, 15:57
Beitrag #6

Ome Offline
LVF-Gelegenheitsschreiber
**


Beiträge: 109
Registriert seit: Nov 2009

2011
2009
DE

12XXX
Deutschland
RE: Keithley 2636/ gerundete Stromwerte
Hi,

benutzt du die Originaltreiber von KEITHLEY für dein 2636A? Falls ja stellt sich die nächste Frage ob dein System mit Punkt oder Komma arbeitet. Falls du mit Komma arbeitest liegt hier das Problem.

Du setzt deine Spannung nur in 1V schritten wodurch es zu den scheinbaren Rundungen kommt.

Lösung: einfach in den VIs bei den Befehlen ein "%." vorne anhängen.

Gruß Ome
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
12.06.2012, 16:00
Beitrag #7

GerdW Offline
______________
LVF-Team

Beiträge: 17.398
Registriert seit: May 2009

LV2021
1995
DE_EN

10×××
Deutschland
RE: Keithley 2636/ gerundete Stromwerte
Hallo,

nimm besser ein "%.;" Smile

Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
12.06.2012, 19:02 (Dieser Beitrag wurde zuletzt bearbeitet: 12.06.2012 19:03 von Gahlunke.)
Beitrag #8

Gahlunke Offline
LVF-Neueinsteiger


Beiträge: 5
Registriert seit: Jun 2012

10.0.1
2012
EN



RE: Keithley 2636/ gerundete Stromwerte
DankeSmile genau das wars, punkt komma vertauschungSmile

vielen dank

Gruß Tobi
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Gerundete Zahlen und Nachkommastellen exxpkeb 23 14.439 27.03.2007 13:58
Letzter Beitrag: exxpkeb

Gehe zu: