INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Probleme mit "Max & Min - Arrayfunktion" und Nachkommastellen



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

16.11.2009, 12:49 (Dieser Beitrag wurde zuletzt bearbeitet: 16.11.2009 12:49 von jg.)
Beitrag #5

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
Probleme mit "Max & Min - Arrayfunktion" und Nachkommastellen
Ich tippe mal darauf, dass du dein FP-Control gar nicht auf 2 Nachkommastellen in der Anzeige eingestellt hast.

Mach mal folgendes:
   
und dann dies:
   

Beachte: Intern ist die Genauigkeit weiterhin genauer. Die FP-Anzeige ist kein Ersatz für das Runden einer Float-Zahl. Nur die Anzeige im FP wird gerundet.

Gruß, Jens

P.S.: Bitte das nächste Mal einen sinnvolleren Thementitel als "max" wählen (vgl. LVF-Regeln).

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Nachrichten in diesem Thema
Probleme mit "Max & Min - Arrayfunktion" und Nachkommastellen - jg - 16.11.2009 12:49

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Nachkommastellen abgeschnitten beim einlesen einer csv-datei in ein array noled 2 5.362 02.12.2015 16:37
Letzter Beitrag: noled
  Nachkommastellen bei Hex-Zahlen Bensch 7 6.314 28.10.2015 14:43
Letzter Beitrag: Lucki
  String mit 2 Nachkommastellen anzeigen anne 9 11.447 11.01.2014 01:02
Letzter Beitrag: macmarvin
  Nachkommastellen anzeigen Ninja2602 7 10.836 28.02.2013 13:59
Letzter Beitrag: Ninja2602
  Nachkommastellen Theo-Technic 11 17.770 30.08.2011 15:42
Letzter Beitrag: A.Berndsen
  "Fract/Exponential String to Number" mehr Nachkommastellen? GT123 3 6.728 08.10.2010 07:55
Letzter Beitrag: Y-P

Gehe zu: