Verschiedene Ergebnisse bei Typ Cast?

Es geht hier doch darum, eine Gleitkommazahl mit Fixkomma (z.B mit zwei Kommastellen) in ein 24 bit Integerformat (als 3 Byte-Array) zu konvertieren. Das geht natürlich nur innerhalb eines gewissen Zahlenbereichs. Es sollen auch negative Werte vorkommen dürfen (Wenn nicht, würde die Hin- und Rückkonvertierung etwas einfacher als in den unten angehängten VI. Außerdem würde der dann nur im positiven liegende Zahlenbereich verdoppelt).

Zur Lösung dieses Problems solltest Du das Format FXP vergessen. Das ist z.B dazu geeignet, im Finanzwesen bei Berechnungen mit Millionenbeträgen noch alles auf den Pfennig Cent genau zu haben. Was es in Labview zu suchen hat, weiß ich nicht, es wird dort jedenfalls kaum verwendet - wenn überhaupt.

So etwa würde ich das machen:

   

  DblToThreeBytes.vi (Größe: 10,68 KB / Downloads: 306)


Der Zahlenbereich, in dem die Übertragung im Beispiel mit 2 Kommastellen funktioniert, ist
-83886.08 .. 83886.07

..und hier noch das alternative Progrämmchen mit Typecast - um diesen Vergleich gings doch:
(Die beiden 3-Byte-Array sind natürlich gleich. Der Code ist etwas einfacher, aber nicht unbedingt einfacher zu kapieren)

   

  DblToThreeBytes2.vi (Größe: 10,04 KB / Downloads: 297)