INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Nachkommastellen zählen



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

09.05.2008, 11:34
Beitrag #1

blkman Offline
LVF-SemiTechnician


Beiträge: 4
Registriert seit: May 2008

7.1.1
2006
DE

96049
Deutschland
Nachkommastellen zählen
Hallo!

Mein VI besitzt Zwei Bedienfelder, in die man die Grenzwerte (Maximum und Minimum) einer gemessenen
Spannung / Widerstand / Frequenz eingeben kann.

Da das VI in Teststand mehrmals nacheinander mit verschieden großen Mess- und Grenzwerten ausgeführt wird
(mal mehr Nachkommast. mal weniger), will ich die Nachkommast. der Grenzwerte zählen und jenachdem die Breite meines
Ergebnisses anpassen.


z.B.

Min: 7,1 Ohm
Max: 7,875 Ohm

Messung: 7,875432 Ohm

Ergebnis wäre hier jetzt Falsch, da 7,875432 ja größer als das Maximum von 7,875 ist.
Also soll der Messwert dynamisch auf 3 nachkommastellen gerundet werden.

Nur wie zählt man jetzt die Kommastellen von Max & Min ??


Thx!

Gruß,
Michl


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
09.05.2008, 13:07
Beitrag #2

Lucki Offline
Tech.Exp.2.Klasse
LVF-Team

Beiträge: 7.699
Registriert seit: Mar 2006

LV 2016-18 prof.
1995
DE

01108
Deutschland
Nachkommastellen zählen
Da hast Du 3 Möglichkeiten:
1. Runden des Messwertes:
1a) Mal 1000 nehmen, auf ganze Zahl runden, wieder durch 1000 teilen
1b) In String mit 3 Kommastellen wandeln, dann wieder zurück in Zahl.
Beides wurde hier schon 10 mal exerziert.
2. Am einfachsten: Den Grenzwert erhöhen: Du nimmst als Grenzwert 7,87549999. Die Anzeige stellst Du auf 3 Kommastellen ein, so daß die weiteren Stellen nicht sichtbar sind. Der Vergleich wird dann wunschgemäß gebildet.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
09.05.2008, 13:54 (Dieser Beitrag wurde zuletzt bearbeitet: 09.05.2008 14:04 von blkman.)
Beitrag #3

blkman Offline
LVF-SemiTechnician


Beiträge: 4
Registriert seit: May 2008

7.1.1
2006
DE

96049
Deutschland
Nachkommastellen zählen
[...Da das VI in Teststand mehrmals nacheinander mit verschieden großen Mess- und Grenzwerten ausgeführt wird
(mal mehr Nachkommast. mal weniger), will ich die Nachkommast. der Grenzwerte zählen und jenachdem die Breite meines
Ergebnisses anpassen...]


Sind ja nicht immer 3 Kommastellen...
Der Teststanduser bekommt vom eigentlichen Ablauf nichts mit. Gibt nur Grenzwerte ein und sieht das Ergebnis!
Sind in jedem Schritt in Teststand neue Grenzwerte.

Aber Danke!

Hab mir jez was zusammengebastelt..

Gruß!


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
09.05.2008, 15:52
Beitrag #4

thomas.sandrisser Offline
LVF-SeniorMod


Beiträge: 1.298
Registriert seit: Sep 2005

xxxx
2005
EN

78759
United States
Nachkommastellen zählen
Wenn du Hide trailing zeros anschaltest beim control oder indicator dann musst du die Nullen nicht abschneiden...
Zudem ist dein Aufbau ausschliesslich auf , aufgebaut. Was machst wenn einer englische Laendersettings hat?

Anbei ein Pic wies einfacher gehen wuerde...


Angehängte Datei(en) Thumbnail(s)
   
Webseite des Benutzers besuchen Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
13.05.2008, 07:40
Beitrag #5

blkman Offline
LVF-SemiTechnician


Beiträge: 4
Registriert seit: May 2008

7.1.1
2006
DE

96049
Deutschland
Nachkommastellen zählen
' schrieb:Wenn du Hide trailing zeros anschaltest beim control oder indicator dann musst du die Nullen nicht abschneiden...
Zudem ist dein Aufbau ausschliesslich auf , aufgebaut. Was machst wenn einer englische Laendersettings hat?

Anbei ein Pic wies einfacher gehen wuerde...

Hi!

Sind trotzdem noch die Nullen dabei. Sobald du Num (auch mit ausgeblendeten Nullen) in Str konvertierst,
sind die zeros wieder dabei.

Ok, das mit den Ländersettings hab ich jetzt nicht mit eingeplant. Aber das VI läuft sowieso sicher auf nem
deutschen System!

Thx!
Michl


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
13.05.2008, 08:25
Beitrag #6

blkman Offline
LVF-SemiTechnician


Beiträge: 4
Registriert seit: May 2008

7.1.1
2006
DE

96049
Deutschland
Nachkommastellen zählen
Update: Das Offset bei dem die Null weggeschnitten wird, muss noch verbunden werden, sonst werden auch alle Nullen vor dem Komma gekappt.


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
13.05.2008, 08:37 (Dieser Beitrag wurde zuletzt bearbeitet: 13.05.2008 08:38 von Lucki.)
Beitrag #7

Lucki Offline
Tech.Exp.2.Klasse
LVF-Team

Beiträge: 7.699
Registriert seit: Mar 2006

LV 2016-18 prof.
1995
DE

01108
Deutschland
Nachkommastellen zählen
' schrieb:[...Da das VI in Teststand mehrmals nacheinander mit verschieden großen Mess- und Grenzwerten ausgeführt wird
(mal mehr Nachkommast. mal weniger), will ich die Nachkommast. der Grenzwerte zählen und jenachdem die Breite meines
Ergebnisses anpassen...]
Sind ja nicht immer 3 Kommastellen...

Wenn es nícht immer 3 Kommastellen sind, dann ist das überhaupt kein Argument gegen die von mir vergeschlagene Methode 3. Wenn es 0 Kommastellen sind, muß 0,499 zum Grenzwert addiert erden, bei 1 Kommastelle 0.499e-1 usw. Die Zahl der Kommastellen festzustellen und das dann so zu machen ist doch wirklich nicht schwer:
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
13.05.2008, 16:49
Beitrag #8

thomas.sandrisser Offline
LVF-SeniorMod


Beiträge: 1.298
Registriert seit: Sep 2005

xxxx
2005
EN

78759
United States
Nachkommastellen zählen
sorry, undokumentiertes feature meinerseits.
Verwende als specifier %#f dann werden auch im string die zeros getilgt (oder %.;%#f)
Webseite des Benutzers besuchen Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Gehe zu: