Re: [de-users] Weiterer Fehler in Calc bei einfacher Rechnung

Am 23.05.2018 um 17:45 schrieb André Piotrowski:
> Hallo Leute,
>
> ich bin vor einiger Zeit über einen Fehler in Calc gestolpert. Obwohl es 
> sich um einfache (im Dualsystem gut darstellbare) Zahlen handelt,

Und hier irrst du. Bei *einer* der Zahlen handelt es sich um eine
Gleitkommazahl, und Gleitkommazahlen sind (bis auf ganz wenige spezielle
Ausnahmen[1]) praktische *nie* binär exakt darstellbar.

[1] nämlich wenn der Nachkommawert exakt dem Vielfachen des Kehrwerts
einer Zweierpotenz entspricht, also z. B. 0,25 (1/(2^2)), 0,625
(5/(2^3)) usw.; mit z. B. dem Wert 702,125 hättest du also keinen
Rundungsfehler bekommen.

> führt 
> bereits eine Reihe simpler Addition zu Ungenauigkeiten – siehe Anhang 
> (einmal als ODS, einmal als PDF).

Schon die *erste* deiner Zahlen ("702,1") ist binär nicht exakt
darstellbar; das pflanzt sich natürlich bis zum Endergebnis fort. Wenn
du es nicht glaubst, prüf es selber nach auf
https://www.h-schmidt.net/FloatConverter/IEEE754de.html . Die Seite
stellt zwar nur 32-Bit-Werte dar, Calc verwendet dagegen ein
64-Bit-Format. Das ändert aber nix am grundsätzlichen Prinzip, sondern
verschiebt lediglich den Fehler um ein paar Stellen nach hinten.

Wolfgang
-- 
Dank Donald Trump ist mir endgültig klar geworden: Es ist nicht der Turm
von Pisa, der in Schieflage geraten ist, es ist die Welt.


-- 
Liste abmelden mit E-Mail an: users+unsubscribe@de.libreoffice.org
Probleme? https://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: https://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: https://listarchives.libreoffice.org/de/users/
Alle E-Mails an diese Liste werden unlöschbar öffentlich archiviert