Xy-Graph scheint die Kurve gerundet darzustellen

' schrieb:Hallo Lucki,

danke für deine Erklärung. Habe das jetzt mit den Punkten begriffen und gleich mal gerade gezogen. Die wimmelten fast überall herum. Die kamen daher, das ich den Wert von der AD-Wandlerfunktion als Integer bekommen habe und diesen mit einem Integerwert erstmal angehoben habe. Jetzt hebe ich nur noch mit DBL.
Wie wird den bei dem Konvertierungspunkt konvertiert? Wird der Pfad mit Punkt in dem Format umgewandelt der nicht den Punkt hat? Oder gibt es eine vorgegebene Reihenfolge in etwas sowas wie "trifft Integer auf DBL wird das Ergebnis DBL".

An den Stellen, wo du multipliziert hast, wird von Integer in DBL gewandelt.

' schrieb:Noch eine Frage zum Schluß. Wie kann ich dem Graphen sein Format zuweisen ohne da direkt was anzuschließen? Also wie es meine Lösung hatte nur über eine lokale Variable.

Datentyp von Graphen ändert sich nur, wenn du mal irgendwo das Terminal selber anschließt. Weiss keinen anderen Weg.

MfG, Jens

' schrieb:Wie wird den bei dem Konvertierungspunkt konvertiert? Wird der Pfad mit Punkt in dem Format umgewandelt der nicht den Punkt hat? Oder gibt es eine vorgegebene Reihenfolge in etwas sowas wie "trifft Integer auf DBL wird das Ergebnis DBL".

Jens hat dazu schon die Antwort gegeben, hier nur noch eine Ergänzung. Das allgemeine Prinzip bei der automatischen Konvertierung ist, daß dabei kein Schaden angerichtet wird. Das wäre z.B. der Fall, wenn bei der Addition von Real und Integer das Ergebnis vom Typ Integer wäre. Also das Ergebnisformat ist immer die höhere Präzision.
Eigentlich sollte man Konvertierungepunkte ganz vermeiden und lieber die Konvertierungsfunktionen unter Numerisch/Konvertierung verwenden. Ich halte es so: Ich vermeide es, daß z.B. ein und dieselbe Integerzahl mehrere Male konvertiert wird, wenn sie z.B mehrere Male mit einer Realzahl addiert wird. Da verwende ich vorher die Konvertierungsfunktion. Bei nur eine Konvertierung mache ich mir die Mühe nicht, da akzeptiere ich den Punkt.
Was ich allerdings nicht verstehe: wenn LV so klug ist, die Konvertierung im Zweifalsfall immer in Richtung höherer Präzision zu betreiben, wie ich oben behauptet habe, dann verstehe ich nicht, wieso der Fehler bei Dir jemals auftreten konnte. Naja, Hauptsache er ist jetzt weg.

@Lucki:

Erstelle mal folgendenes VI:

   

Da der Datentyp in diesem Bsp Cluster[1D-Array Int32, 1D-Array Int32] ist, kann sich das bei der Zuweisung an eine lokale Variable nicht ändern => Datenkonvertierung und Darstellung von Ganzzahlen.

Ändert sich erst, wenn du das Terminal des XY-Graphen wieder direkt mit dem gewollten Datentyp verbindest, in diesem Bsp also einfach Terminal in den 2. Teil der Sequenz verschieben und mit dem anderen Cluster verbinden.

Das gilt so für alle 2D-Graphen. Hintergrund für dieses Verhalten dürfte sein: Alle 2D-Graphen können ja mit sehr unterschiedlichen Datenstrukturen gefüttert werden (z.B. Waveforms, Array of Waveforms, uvm.). Ein Graph passt sich dabei immer durch Anschluß des Terminals an diese Datenstruktur an und behält diese dann bei, auch beim Kopieren etc. Erst wenn man eine andere Datenstruktur mit dem Terminal verbindet, ändert sich auch die Datenstruktur des Graphen.

Da Neil laut eigener Aussage das Terminal des XY-Graphen nicht angeschlossen hatte, und die Datenstruktur des XY-Graphen aus mir unbekannten Gründen wohl irgendwo Integer-Zahlen enthielt (mglw. wegen Kopieren...), musste beim Anschuß an die lokale Variable eine Typ-Änderung auf Integer erfolgen.

MfG, Jens

' schrieb:Erstelle mal folgendenes VI:

Das mache ich nicht, denn damit ist alles klar, an diesen Fall habe ich nicht gedacht. Danke Jens, daß Du mein vorübergehend durcheindergeratenes "LabVIEW-Weltbild" wieder in Ordnung gebracht hast!