LabVIEWForum.de - Double aufrunden

LabVIEWForum.de

Normale Version: Double aufrunden
Du siehst gerade eine vereinfachte Darstellung unserer Inhalte. Normale Ansicht mit richtiger Formatierung.
Hallo Leute,

wer kann mir sagen wie ich eine Double-Zahl auf zwei Nachkommastellen aufrunde. Geht es irgendwie mit Quotient&Remainder? Oder soll ich mit 100 multiplizieren nach Integer umwandeln und dann wieder nach Double?

Grüsse
' schrieb:Hallo Leute,

wer kann mir sagen wie ich eine Double-Zahl auf zwei Nachkommastellen aufrunde. Geht es irgendwie mit Quotient&Remainder? Oder soll ich mit 100 multiplizieren nach Integer umwandeln und dann wieder nach Double?

Grüsse
Ich persönlich habe es auch mal mit der Q & R funktion versucht, lief aber leider nicht so, wie gewollt,
habe dann auch die Integer multipliziertechnik verwendet, um es zu lösen.
Hallo,

ich würde mit hundert multiplizieren, dann auf ganze Zahl runden, (Gibt es als Funktion) und dann wieder durch hundert teilen.
Wenn du jedoch die zwei Stellen hinter dem Komma nur für die Anzeige brauchst, dann würde ich das Anzeigeelement dementsprechend formatieren. Dann hast du im laufenden Programm immer noch die genaue Zahl.

GRuß
sven
Das hier währe auch noch eine Lösung..
Allerdings wird es mir hierbei programmiertechnisch gesehen slecht :-)

[attachment=2182]

VDB
Hallo Eugen, Du hast Glück, das habe ich mal vor Urzeiten gemacht, anbei Programm. Integerzahlen verwende ich nicht, sonden nur die Rundungsfunktionen, bei der die Realzahl auf ganzzahlige Werte gerundet wird, dabei aber Realzahl bleibt.
Etwas komplizierter - von Dir hier aber nicht gefragt - wird es, wenn eine Zahl im Gleitkommaformat (wissenschaftlichem Format) auf soundsoviel signifikante Stellen gerundet werden soll. Das ist der untere Teil des Blockbildes, vergiß es, wenn Du es nicht brauchst.
Ich habe auch mal ein kleines Programm geschrieben, um Widerstandswerte auf Werte der Normreihen E12, E24, E96 zu runden. Wenn sich dafür jemand interessiert, bitte melden.
Danke an alle,

der Hintergrund ist folgender:

ich empfange Datenpakete mit vielen Daten und einem Zeitstempel, leider aber ist der Zeitstempel nicht als Double, nicht als UTC, sondern in Wochen und Wochensekunden. Dazu gibt es eine ziemlich komplizierte (Umrechnung + Umwandlung Gregorianisch -> Julianisch) Umrechnungsmethode auf UTC. Dann nehme ich die umgerechnete Zeit und rechne die wieder um in eine Double-Zahl. Diese Zahl ist dann auf allen X-Achsen von meinen Charts (ca. 10 Stück) mit Daten, die ich empfangen habe. Noch habe ich einen Masterchart mit nur X-Achse als Zeitreferenz für alle anderen. Wenn ich mit der Maus die X-Achse meines Mastercharts scrolle werden über Propertynodes alle meine Slavecharts gleichzeitig mitgescrollt. So kann ich alle Charts mit nur einer Mausbewegung scrollen.

Das Problem ist das die Darstellung ein wenig ruckelt. Ich habe nun gedacht es liege an der Auflösung und Umrechnung der Zeit. Wenn die Datenpunkte nicht in gleichen Zeitabständen in den Charts aufgezeichnet werden, dann soll es wahrscheinlich ruckeln. Um das Ruckeln zu vermeiden wollte ich die Zeit als Double-Zahl aufrunden und somit die gleichen Zeitabstände erzielen.

Warte auf euere Meinungen, ob ich es richtig verstehe.

Grüsse, Eugen
' schrieb:Dann nehme ich die umgerechnete Zeit und rechne die wieder um in eine Double-Zahl
Das klingt nach einem umständlichen Vorgang, wo es doch soo einfach ist:
' schrieb:Das klingt nach einem umständlichen Vorgang, wo es doch soo einfach ist:


Es ist ja schon längst gemacht.
Referenz-URLs