INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Zahlengenauigkeit ändern



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

15.01.2010, 14:35
Beitrag #1

Prince Amir Offline
LVF-Gelegenheitsschreiber
**


Beiträge: 134
Registriert seit: Aug 2009

8.6 - 2009
2009
de_en

80809
Deutschland
Zahlengenauigkeit ändern
Hallo an Alle,

ich hab ein Problem. Es sieht ganz einfach aus, aber irgendwie bin ich gerad zu Dumm dafür.
Ich lese die Messdaten anhand DAQ (programmiert mit Task). Die Analoge Eingänge (Spannungen) haben 6 Stellige Genauigkeit ( Z.b. 0,5789312 usw.) ich will aber irgendwie die Daten konvergieren einfach mit 2 Kommastellen, damit ich sie weiterverarbeiten kann. Eine M-serie karte mit AI Eingang benutze ich in diesem Fall.

Gibts so eine Funktion in LV? will die daten gar nicht erst speichern oder anzeigen sondern direkt die Dynamic Data umwandeln.
Im Bsp. oben sollte dann so aussehen 0,57. I will direkt mit dem wert weiterarbeiten im Echtzeit.

Viele Grüße und danke im Voraus.

Coming together is a beginning, keeping together is progress, working together is success.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
15.01.2010, 14:43
Beitrag #2

dimitri84 Offline
Astronaut
*****


Beiträge: 1.496
Registriert seit: Aug 2009

2020 Developer Suite
2009
DE_EN

53562
Deutschland
Zahlengenauigkeit ändern
   

„Sag nicht alles, was du weißt, aber wisse immer, was du sagst.“ (Matthias Claudius)
Webseite des Benutzers besuchen Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
15.01.2010, 15:07
Beitrag #3

Achim Offline
*****
*****


Beiträge: 4.222
Registriert seit: Nov 2005

20xx
2000
EN

978xx
Deutschland
Zahlengenauigkeit ändern
' schrieb:...irgendwie die Daten konvergieren einfach mit 2 Kommastellen, damit ich sie weiterverarbeiten kann.

Zu was sollte das gut sein? Ich würde mir die Genauigkeit so lange wie möglich erhalten...

"Is there some mightier sage, of whom we have yet to learn?"

"Opportunity is missed by most people because it is dressed in overalls and looks like work." (Thomas Edison)
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
15.01.2010, 15:11 (Dieser Beitrag wurde zuletzt bearbeitet: 15.01.2010 15:13 von Lucki.)
Beitrag #4

Lucki Offline
Tech.Exp.2.Klasse
LVF-Team

Beiträge: 7.699
Registriert seit: Mar 2006

LV 2016-18 prof.
1995
DE

01108
Deutschland
Zahlengenauigkeit ändern
Dimitri hat auf Deine Frage die richtige Antwort gegeben. Das Problem ist nur, ob Du die Frage wirklich so wie formuliert gemeint hast. Meist werden zu viele Nachkommastellen in einer Anzeige als störend empfunden, und es geht bei solchen Fragen in Wirklichkeit um die Änderung der Anzeigeeigenschaften bezüglich der Anzahl der angezeigten Stellen und nicht um eine real erwünschte Veränderung der Zahl selbst.
Edit: Schließe mich der Frage von Achim: "Wozu soll das gut sein?" an.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
15.01.2010, 15:15
Beitrag #5

dimitri84 Offline
Astronaut
*****


Beiträge: 1.496
Registriert seit: Aug 2009

2020 Developer Suite
2009
DE_EN

53562
Deutschland
Zahlengenauigkeit ändern
' schrieb:Dimitri hat auf Deine Frage die richtige Antwort gegeben. Das Problem ist nur, ob Du die Frage wirklich so wie formuliert gemeint hast. Meist werden zu viele Nachkommastellen in einer Anzeige als störend empfunden, und es geht bei solchen Fragen in Wirklichkeit um die Änderung der Anzeigeeigenschaften bezüglich der Anzahl der angezeigten Stellen und nicht um eine real erwünschte Veränderung der Zahl selbst.

Nö, ich glaub der meinte schon das was da steht.

' schrieb:... will die daten gar nicht erst speichern oder anzeigen sondern direkt die Dynamic Data umwandeln.


Offtopic2
Ich find's immer herrlich wie der Prince meine Beiträge konsequent unkommentiert belässt. Da macht das Antworten doppelt Spaß Tongue

„Sag nicht alles, was du weißt, aber wisse immer, was du sagst.“ (Matthias Claudius)
Webseite des Benutzers besuchen Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
19.01.2010, 22:10
Beitrag #6

Prince Amir Offline
LVF-Gelegenheitsschreiber
**


Beiträge: 134
Registriert seit: Aug 2009

8.6 - 2009
2009
de_en

80809
Deutschland
Zahlengenauigkeit ändern
servus an alle...

erstmal danke an dimitri84 für die schnelle Antwort & vorgeschlagene Lösung. Ich habe natürlich den Beitrag nicht vergessen. aber ich war so abgeleht & beschäftigt dass ich total vergessen habe, dass ich die frage hier erstellt hab!!! ist jo wirklich so . und heute schaue i hier rein, & gleich so eine Diskussion.
Sorry dass es so rübergekommen ist.Sad

Es geht ja in diesem Fall nicht um eine reine genauigkeitsanzeige. Es ist natürlich gut wenn die genauigkeit gross ist, aber in diesem Senario nicht.

Die Daten werden anhand einer Kennlinie bearbeitet. Die ist eine scharfe Kennlinie mit grossen Steigung. Problem ist dabei dass wegen 6 stellige genauigkeit nach der Bearbeitung ein grosser Messfehler auftaucht. daher wollte ich von Anfang an die kommastellen weglassen.

Ich hoffe, ich konnte das Problem verständlich rüberbrigen! Wenn nicht kann ich ein Bsp Data hier posten dann wirds ja auf jeden Fall klar was ich meine. Ich werde die Lösung von dir dimitri84 gleich Morgen Probieren. das sollte die gewünschte Effekt dann darstellen.

Beste Grüße,
Prince..

Coming together is a beginning, keeping together is progress, working together is success.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
19.01.2010, 22:42
Beitrag #7

Prince Amir Offline
LVF-Gelegenheitsschreiber
**


Beiträge: 134
Registriert seit: Aug 2009

8.6 - 2009
2009
de_en

80809
Deutschland
Zahlengenauigkeit ändern
So hier habe ich was zusammen gebastelt..Ich hoffe ist es jetzt klarWink


Angehängte Datei(en) Thumbnail(s)
   

Coming together is a beginning, keeping together is progress, working together is success.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
20.01.2010, 08:34
Beitrag #8

dimitri84 Offline
Astronaut
*****


Beiträge: 1.496
Registriert seit: Aug 2009

2020 Developer Suite
2009
DE_EN

53562
Deutschland
Zahlengenauigkeit ändern
' schrieb:Die Daten werden anhand einer Kennlinie bearbeitet. Die ist eine scharfe Kennlinie mit grossen Steigung. Problem ist dabei dass wegen 6 stellige genauigkeit nach der Bearbeitung ein grosser Messfehler auftaucht. daher wollte ich von Anfang an die kommastellen weglassen.

Erzähl' mal was das für Messwerte sind und wie viele du davon hast. (Geht es zufällig noch um Vibration?) Ich hab' da so meine Zweifel, ob du da an der richtigen Stelle deiner Messkette zu manipulieren versuchst.



Gruß dimitri

„Sag nicht alles, was du weißt, aber wisse immer, was du sagst.“ (Matthias Claudius)
Webseite des Benutzers besuchen Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
20.01.2010, 13:06
Beitrag #9

Prince Amir Offline
LVF-Gelegenheitsschreiber
**


Beiträge: 134
Registriert seit: Aug 2009

8.6 - 2009
2009
de_en

80809
Deutschland
Zahlengenauigkeit ändern
' schrieb:Erzähl' mal was das für Messwerte sind und wie viele du davon hast. (Geht es zufällig noch um Vibration?) Ich hab' da so meine Zweifel, ob du da an der richtigen Stelle deiner Messkette zu manipulieren versuchst.
Gruß dimitri

Es geht ja um einen Drucksensor.
ich hab hier im Bild ein Satz von Daten eingefügt. Beim X=0,50018 z.b. ein P vom 0,086.. was eigentlich eine 0 ist. (nach der Anzeigegenauigkeit um stellung). aber bei einer kleinen X änderung z.b. letzte Data komme ich auf falsches wert 0,3....

Wenn ich die daten von Anfang an, 2 stellig oder einstellig nach der komma habe, dann wird ja die umrechnung mit der kennlinie auch passen! das ist genau das problem. bei einem X=0.5 will ich auf der anzeig überall 0 haben! nicht diese komische negative Werte! Die Kennlinie habe ich auf auf FP.

was sagst du dazu oder en Vorschlag ?
wobei ich will nur die Messwertegenauigkeit ändern. D.h. beim Dynamik Data sollte t_0 und dt unverändert bleiben. Nur X werte.

danke & Grüße,

P.S. Sorry für die schlechte Formulierung!

Coming together is a beginning, keeping together is progress, working together is success.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
20.01.2010, 13:12
Beitrag #10

Y-P Offline
☻ᴥᴥᴥ☻ᴥᴥᴥ☻
LVF-Team

Beiträge: 12.612
Registriert seit: Feb 2006

Developer Suite Core -> LabVIEW 2015 Prof.
2006
EN

71083
Deutschland
Zahlengenauigkeit ändern
Habe ich das richtig verstanden: Du misst (genaue!) Werte, berechnest mit ihnen was und weil Dir nun das Ergebnis nicht gefällt, willst Du die Werte so hindrehen (ungenauer machen), dass Dein Ergebnis passt? O

Gruß Markus

--------------------------------------------------------------------------
Bitte stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort !!
--------------------------------------------------------------------------
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Gehe zu: