INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Gerundete Zahlen und Nachkommastellen



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

27.03.2007, 10:55
Beitrag #11

dc6xs Offline
registered alien
****


Beiträge: 762
Registriert seit: Aug 2006

6.1,7.00
2006
kA

79106
Sonstige
Gerundete Zahlen und Nachkommastellen
' schrieb:..
also ne, ich kann im BS (SuSe) selber nix finden bzgl. Formatierung und Nachkommastellen.
..

Kann es sein das Du die deutsche Spracheinstellungen von SUSE nutzt, LV aber die englisch(US_Eng) erwartet?
Locale(s) ist vielleicht das richtige Stichwort um zu suchen.


Gruß, Rob

PS: Da mir vor Jahren die schlechte Übersetzung der Kommandozeilen-Fehlermeldungen etc. nicht gefallen hat, nutz ich weiterhin mein Linux auf englisch, macht sich bei der Fehler suche im Netz auch einfacher. Ist aber Geschmackssache.

Bitte Beachten:
Die obenstehenden Texteile können unter Umständen Sarkasmus und Ironie enthalten, für nicht erkannten Sarkasmus oder nicht erkannte Ironie wird keine Haftung übernommen.

N.B.:
"Multiple exclamation marks, " he went on, shaking his head, "are a sure sign of a deseased mind." - Terry Pratchett
Webseite des Benutzers besuchen Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
27.03.2007, 11:00
Beitrag #12

exxpkeb Offline
LVF-Grünschnabel
*


Beiträge: 25
Registriert seit: Mar 2006

8.2
2006
kA


Deutschland
Gerundete Zahlen und Nachkommastellen
Hallo Alle Zusammen,

leider muß ich hier einen zweiten Thread eröffnen, da der erste (Rubrik App Builder) bisher zu keiner Lösung führte, und ich dringend auf eine Lösung angewiesen bin.

Situation: BS ist SuSe 10. Daten werden über TCP/IP mit C-Script über einen LV Node geholt. Die Daten kommen als "Doubles" rein und sollen 1:1 in einem numerischen Indikator angezeigt werden. alles gar kein Problem solange ich nur die LV Vi´s benutze.

Problem: Jage ich meine Vi´s durch den Application Builder gehen die Nachkommastellen verloren und LV rundet meine Werte in ganze Zahlen.

Ich habe schon jede Konfig Möglichkeit bei "Format&Precision" versucht, hat nix gebracht.. Nachkommastellen sind futsch!

Weiß jemand Rat?

Gruß
Keb
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
27.03.2007, 11:03
Beitrag #13

eg Offline
LVF-SeniorMod


Beiträge: 3.868
Registriert seit: Nov 2005

2016
2003
kA

66111
Deutschland
Gerundete Zahlen und Nachkommastellen
Kann das vielleicht an der Formattierung im C-Skript liegen? Du bekommst ja vom TCP einen String. Wird da dein Double als ASCII oder direkt binär übertragen?

Eugen

Webseite des Benutzers besuchen Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
27.03.2007, 11:09
Beitrag #14

exxpkeb Offline
LVF-Grünschnabel
*


Beiträge: 25
Registriert seit: Mar 2006

8.2
2006
kA


Deutschland
Gerundete Zahlen und Nachkommastellen
Hi u danke für die Antworten Big Grin

also meine Open SuSe 10.2 ist English, LV auch.
Soweit ich weiß haben auch alle andern Rechner auf den ich schon rumprobiert habe diese Einstellungen.

Das mit der Konfig Möglichkeit in LV muss ich eben mal testen.

Bei beiden Lösungsansätzen bleibt die Frage, warum LV mit den Vi´s keine Probs macht (nachkommastellen sind da!), und die gleichen Vi´s als Application nicht richtig funktionieren (keine Nachkommastellen!)...???

das doch echt starange....

danke u Gruß
#Keb
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
27.03.2007, 11:19
Beitrag #15

exxpkeb Offline
LVF-Grünschnabel
*


Beiträge: 25
Registriert seit: Mar 2006

8.2
2006
kA


Deutschland
Gerundete Zahlen und Nachkommastellen
Die Fehlerquelle müsste doch irgendwo ab Application Builder liegen....
denn im Vi funktionierts ja.. und was genau übers Netz kommt weiß ich nicht...
Die Variabeln im Script holen sich "Double" Werte und im Vi bekomme ich die Nachkommastellen wie gewünscht angezeigt, bis hier also keine Fehler.
Bei einer 2,0023765 bekomme ich diese auch...

Erst wenn ich die Application aus dem Vi mache habe ich das Problem.. dann sehe ich nur die glatte 2 ohne komma und Nullen..
..?
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
27.03.2007, 11:22
Beitrag #16

exxpkeb Offline
LVF-Grünschnabel
*


Beiträge: 25
Registriert seit: Mar 2006

8.2
2006
kA


Deutschland
Gerundete Zahlen und Nachkommastellen
so sieht die variabel im Script aus:

#
# CINRun(LStrHandle VariableName, float64 *DataValue .....
#

???
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
27.03.2007, 11:54 (Dieser Beitrag wurde zuletzt bearbeitet: 27.03.2007 11:55 von IchSelbst.)
Beitrag #17

IchSelbst Offline
LVF-Guru
*****


Beiträge: 3.687
Registriert seit: Feb 2005

11, 14, 15, 17, 18
-
DE

97437
Deutschland
Gerundete Zahlen und Nachkommastellen
Ich tippe auf den DecimalSeparator. Der könnte in der LV-IDE anders sein als in der EXE. LV-IDE: Punkt, EXE: Komma - oder umgkehrt. In der IDE setzt die IDE den DecimalSeparator gemäß Setupeinstellung in der IDE. Die EXE nimmt den von der User-Einstellung im Betriebssystem.

Jeder, der zur wahren Erkenntnis hindurchdringen will, muss den Berg Schwierigkeit alleine erklimmen (Helen Keller).
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
27.03.2007, 11:57 (Dieser Beitrag wurde zuletzt bearbeitet: 27.03.2007 11:59 von exxpkeb.)
Beitrag #18

exxpkeb Offline
LVF-Grünschnabel
*


Beiträge: 25
Registriert seit: Mar 2006

8.2
2006
kA


Deutschland
Gerundete Zahlen und Nachkommastellen
ok! aber wo oder wie stelle ich das ein..?
Ich hoffe man kann das konfigurieren, wäre ja schlimm wenn nicht..
Kannst du deinen Tip und die "Lösung" mal erläutern bitte?
(Ich versteh nicht ganz wie er durch nen Punkt/Komma "tausch" auf gerundete ganze Zahlen kommt..)

Gruß
Keb
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
27.03.2007, 12:09
Beitrag #19

eg Offline
LVF-SeniorMod


Beiträge: 3.868
Registriert seit: Nov 2005

2016
2003
kA

66111
Deutschland
Gerundete Zahlen und Nachkommastellen
Erstens sind es nicht gerudete, sondern abgeschnittene Zahlen. Gerundet wäre, wenn du aus 2.6 eine 3 bekommen würdest, du bekommst aber nur eine 2. Aus diesem Grund sagt dir jeder, es hat mit Punkt/Komma Einstellung zu tun. Das was IchSelbst gemeint hat ist richtig. Das habe ich auch gemeint.

Eugen

Webseite des Benutzers besuchen Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
27.03.2007, 12:10
Beitrag #20

IchSelbst Offline
LVF-Guru
*****


Beiträge: 3.687
Registriert seit: Feb 2005

11, 14, 15, 17, 18
-
DE

97437
Deutschland
Gerundete Zahlen und Nachkommastellen
Voraussetzung meiner Überlegungen ist natürlich, dass der Wert als ASCII über TCP/IP übertragen wird.

' schrieb:ok! aber wo oder wie stelle ich das ein..?
Vor der Ein/Umstellung würde ich erst mal verifizieren, ob dem überhaupt so ist. Irgendwo in den vielen Setupeinstellungen der IDE gibt es die Option "DecimalSeparator" (oder wie immer die heißt). Musst du halt mal suchen und ausprobieren. Ich habe hier kein LV.

Zitat:(Ich versteh nicht ganz wie er durch nen Punkt/Komma "tausch" auf gerundete ganze Zahlen kommt..)
Deine Zahl heiße "2,0023765". Und sofort fällt die auf, dass der DezimalPUNKT ein Komma ist. Was weiß ich, was LV so alles macht, wenn es einen String über TCP/IP empfängt und als Zahl speichern soll. Wenn die Einstellung DecimalSeparator='.' gilt, dann wird von der Zahl eben nur "2" übernommen - was dann zwar wie gerundet aussieht aber eher abgeschnitten ist. Hieße die Zahl "2.0023765" würde es wieder gehen.

Nachtrag: jetzt ist mir doch eg zuvorgekommen.

Jeder, der zur wahren Erkenntnis hindurchdringen will, muss den Berg Schwierigkeit alleine erklimmen (Helen Keller).
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Nachkommastellen abgeschnitten beim einlesen einer csv-datei in ein array noled 2 4.447 02.12.2015 16:37
Letzter Beitrag: noled
  Nachkommastellen bei Hex-Zahlen Bensch 7 4.763 28.10.2015 14:43
Letzter Beitrag: Lucki
  String mit 2 Nachkommastellen anzeigen anne 9 9.617 11.01.2014 01:02
Letzter Beitrag: macmarvin
  Nachkommastellen anzeigen Ninja2602 7 9.392 28.02.2013 13:59
Letzter Beitrag: Ninja2602
  Keithley 2636/ gerundete Stromwerte Gahlunke 7 4.524 12.06.2012 19:02
Letzter Beitrag: Gahlunke
  Nachkommastellen Theo-Technic 11 15.649 30.08.2011 15:42
Letzter Beitrag: A.Berndsen

Gehe zu: