|
13.11.2013, 14:51
|
jg
CLA & CLED
Beiträge: 15.864
Registriert seit: Jun 2005
20xx / 8.x
1999
EN
Franken...
Deutschland
|
RE: 2D Array in Zeitabschnitten
(13.11.2013 14:47 )Lucki schrieb: Ja, aber das richtige Ergebnis stelle ich mir so vor (linkes Bild) und nicht so wie jetzt (rechtes Bild):
Diesen Fauxpax darf der Thread-Ersteller selber beseitigen. Übung macht den Meister.
Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)
!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!
Einführende Links zu LabVIEW, s. GerdWs Signatur.
|
|
|
|
|
13.11.2013, 14:54
|
jg
CLA & CLED
Beiträge: 15.864
Registriert seit: Jun 2005
20xx / 8.x
1999
EN
Franken...
Deutschland
|
RE: 2D Array in Zeitabschnitten
Du könntest natürlich auch mal versuchen, den Pseudocode von Gerd in LabVIEW umzusetzen - ohne lokale Variablen!
Gruß, Jens
Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)
!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!
Einführende Links zu LabVIEW, s. GerdWs Signatur.
|
|
|
|
13.11.2013, 16:49
(Dieser Beitrag wurde zuletzt bearbeitet: 13.11.2013 16:50 von Hamoudi.)
|
Hamoudi
LVF-Grünschnabel
Beiträge: 22
Registriert seit: Sep 2013
8.5
2013
DE
89xxx
Deutschland
|
RE: 2D Array in Zeitabschnitten
Also, ich habe nun eine kleine Schönheitskorrektur vorgenommen indem ich den Counter im False Zustand auf 0,1 statt 0 gesetzt habe und siehe da, es funktioniert.
ABER, sobald eine 1 in der Tabelle (Zeitspalte) steht, zählt mein Array generell 0,1s zuviel. Der vergleich auf 1 < 1 wird als TRUE durchgegeben. Warum??
Egal welche Zahl man nimmt, es klappt tadellos aber sobald eine 1 kommt wird zuviel gezählt!
2<2 FALSE, 3<3 FALSE, 1<1 TRUE......... Warum nur bei der 1?
Bitte um ein letztes mal um Hilfe
|
|
|
|
|
13.11.2013, 18:07
|
jg
CLA & CLED
Beiträge: 15.864
Registriert seit: Jun 2005
20xx / 8.x
1999
EN
Franken...
Deutschland
|
RE: 2D Array in Zeitabschnitten
Vermutliche Ursache: Bei Gleitkommazahlen ist 0,1+0,1 nicht exakt 0,2.
Gruß, Jens
Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)
!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!
Einführende Links zu LabVIEW, s. GerdWs Signatur.
|
|
|
|
|
13.11.2013, 18:18
|
Hamoudi
LVF-Grünschnabel
Beiträge: 22
Registriert seit: Sep 2013
8.5
2013
DE
89xxx
Deutschland
|
RE: 2D Array in Zeitabschnitten
Aber warum dann nur bei der 1?
Bei allen anderen Zahlen passt es. Nur wenn 1 oder kleiner 1 ist, zählt er 0,1 zuviel..........
|
|
|
|
13.11.2013, 18:46
(Dieser Beitrag wurde zuletzt bearbeitet: 13.11.2013 19:21 von Lucki.)
|
Lucki
Tech.Exp.2.Klasse
Beiträge: 7.699
Registriert seit: Mar 2006
LV 2016-18 prof.
1995
DE
01108
Deutschland
|
RE: 2D Array in Zeitabschnitten
Eine Lösung des Gleitkommaproblems wäre z.B., alle Zeiten für die internen Berechnungen in Millisekunden und ins Ganzzahlformat zu konvertieren. Damit sich das Ergebnis dann als 2D-DBL-Array präsentieren läßt, kann man ja zum Schluß diie Zeiten wieder rückkonvertieren.
Zitat:Egal welche Zahl man nimmt, es klappt tadellos aber sobald eine 1 kommt wird zuviel gezählt!
Erklärung: Die "1" ist kleiner als ihr Sollwert, die anderen Ganzzahlen sind immer (oder meist?) etwas größer.
|
|
|
|
| |
