Re: [de-users] Weiterer Fehler in Calc bei einfacher Rechnung

Am 23.05.2018 um 18:28 schrieb André Piotrowski:
> Zahlen wie die hier angegebenen lassen sich problemlos (und selbst mit 
> einfacher Genauigkeit) problemlos als Fließpunktzahl darstellen. Es 
> liegt also definitiv ein Fehler vor, und der ist bei mir reproduzierbar. 
> Die Frage ist nun, woran es liegt: Calc oder ein Fehler im Microcode des 
> Prozessors …

Weder noch; wenn du so willst, liegt es an der von der IEEE
intermational genormten Darstellung von Gleitkommazahlen auf
Binärsystemen. Lies
http://www.iti.fh-flensburg.de/lang/informatik/ieee-format.htm .

> Das mit der Darstellung ist mir klar, beseitigt aber nicht das Problem, 
> wenn man exakte Werte bestimmen will. 

Es gibt Zahlen, die *kann* man nicht exakt bestimmen; im Dezimalsystem
wäre das z. B. die Zahl 1/3; oder Pi; usw. Und im Binärsystem ist das
eben u. a. die Zahl 2,1.

Bei der hier gebildeten Summe aus
> vier niedrigen Werten mit maximal einer Stelle hinter dem Komma darf es 
> da auch keine Differenzen geben.

innerhalb des *Darstellungsbereiches* gültiger Zahlen tut (d. h. alles
was sich mit 64 Bit darstellen lässt) es das auch nicht.

> Wenn es bei Dir funktioniert, ist es möglicherweise dann doch ein 
> Problem des Prozessors …

Nein; das Problem sitzt /vor/ dem Bildschirm.

Wolfgang
-- 
Dank Donald Trump ist mir endgültig klar geworden: Es ist nicht der Turm
von Pisa, der in Schieflage geraten ist, es ist die Welt.


-- 
Liste abmelden mit E-Mail an: users+unsubscribe@de.libreoffice.org
Probleme? https://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: https://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: https://listarchives.libreoffice.org/de/users/
Alle E-Mails an diese Liste werden unlöschbar öffentlich archiviert