Kommastellen abschneiden

Hallo alle zusammen,

ich hab da mal ne Frage...

ich bekomme extern von LV ein 2D-Array (5x5), das ich auf dem FP anschauen kann. Dieses soll dann von einem 2. 2D-Array subtrahiert und das Ergebnis in nem 3D-Diagramm dargestellt werden. Ich möchte mir wegen des Messrauschens nur eine Kommastelle im Ergebnis anzeigen lassen. Diese Option kann ich ja bei den Array einstellen. Das 3D-Diagramm zeigt mir aber immer alle Kommastellen an . Das ist ärgerlich wenn als Ergebnis z.B. Null rauskommen soll, aber im Diagramm z.B. 0,0034 angezeigt wird.

Gruß
Steffen

Anzeige

Hallo Steffen,

das was Du beschreibst hängt damit zusammen, daß Du nur die Anzeige der Daten veränderst.
Die Daten selbst bleiben die alten und deshalb bekommst Du im 3D Plot eine andere Anzeige.
Deshalb solltest Du Dein Ausgangsarray einfach um die entsprechenden Kommastellen kürzen.
Anschließend klappt's auch mit dem 3D Plot.

Zum Kommastellen kürzen fällt mir nur mit 10 multiplizieren, runden und durch 10 dividieren ein.

Grüße
Andreas

Man kann aber bestimmt Format&Precission des 3D-Plots einstellen, wie beim XY-Plot auch.

Gruss, Eugen

<div align="left">Hallo, Eugen,

was du vorschlägst, finde ich interessant, aber geht das wirklich (auch bei den 2D-Graphen)? Ich wüsste jetzt nur, das man die Formatierung der Skalen verändern kann, das hat doch aber (genauso wie bei der Anzeige von Indikatoren) keinen Einfluss auf die interne benutzte Genauigkeit bei der Darstellung der Daten.

Sehe deshalb auch nur Andreas Vorschlag als Lösung.

MfG, Jens</div>

Ja. Schau mal hier.

Gruss, Eugen

' schrieb:Ja. Schau mal hier.

Gruss, Eugen

Ja, sorry, der Verlauf bleibt gleich.

Na gut, dann wirklich mit 10 multiplizieren oder mit ModuloVI Float nach Integer umwandeln.

Anzeige

Hier alle mir bekannten Varianten.

Aufpassen, es gibt Unterschiede bei der Aufrundung. Probiere die mal aus.

Gruss, Eugen