INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Frage zu "Quotient und Rest"



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

09.03.2009, 18:55 (Dieser Beitrag wurde zuletzt bearbeitet: 09.03.2009 20:14 von Lucki.)
Beitrag #7

Lucki Offline
Tech.Exp.2.Klasse
LVF-Team

Beiträge: 7.699
Registriert seit: Mar 2006

LV 2016-18 prof.
1995
DE

01108
Deutschland
Frage zu "Quotient und Rest"
' schrieb:Das ist mir klar,
die Anzahl der Nachkommastellen hängt aber von dem Benutzer ab und kann daher nicht fix vorgegeben werden.
Einfach die 10 in meinem Bild durch z.B 1000000 ersetzen. Dann funktioniert es bis zu 6 Nachkommastellen, und bei weniger Nachkommastellen (also wie im obigen Beispiel) ist das kein Nachteil. Damit es nicht zum Überlauf kommt, muß evtl. das Format I64 statt I32 benutzt werden.

Allgemein gesagt:
Ausgehend von dem zu erwertenden Wertebereich für x, y und x/y, kann man den Faktor 10^N so groß wie möglich machen. Nur eben nicht so groß, daß es bei der Konversion zu I32 bzw. U64 zum Überlauf kommen kann.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
Frage zu "Quotient und Rest" - jg - 09.03.2009, 16:29
Frage zu "Quotient und Rest" - Lucki - 09.03.2009, 16:39
Frage zu "Quotient und Rest" - Lucki - 09.03.2009, 18:34
Frage zu "Quotient und Rest" - Lucki - 09.03.2009 18:55

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Funktion "Quotient und Rest" Dümo 1 3.055 05.04.2018 08:36
Letzter Beitrag: jg
  "Ergebnis und Rest" Problem ReneP 6 7.358 16.11.2011 10:57
Letzter Beitrag: ReneP
  userlib verlegen aber den Rest gleich lassen gottfried 0 3.319 05.10.2007 12:59
Letzter Beitrag: gottfried

Gehe zu: