INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Keithley 2636/ gerundete Stromwerte



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

12.06.2012, 15:57
Beitrag #6

Ome Offline
LVF-Gelegenheitsschreiber
**


Beiträge: 109
Registriert seit: Nov 2009

2011
2009
DE

12XXX
Deutschland
RE: Keithley 2636/ gerundete Stromwerte
Hi,

benutzt du die Originaltreiber von KEITHLEY für dein 2636A? Falls ja stellt sich die nächste Frage ob dein System mit Punkt oder Komma arbeitet. Falls du mit Komma arbeitest liegt hier das Problem.

Du setzt deine Spannung nur in 1V schritten wodurch es zu den scheinbaren Rundungen kommt.

Lösung: einfach in den VIs bei den Befehlen ein "%." vorne anhängen.

Gruß Ome
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
Antwort schreiben 


Nachrichten in diesem Thema
RE: Keithley 2636/ gerundete Stromwerte - Ome - 12.06.2012 15:57

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Gerundete Zahlen und Nachkommastellen exxpkeb 23 15.257 27.03.2007 13:58
Letzter Beitrag: exxpkeb

Gehe zu: