Re: [de-users] Weiterer Fehler in Calc bei einfacher Rechnung

@Regina und @Wolfgang: Für mich sehr erhellend, - vielen Dank!

Am 23.05.2018 um 19:53 schrieb Wolfgang Jäth:
> Am 23.05.2018 um 17:45 schrieb André Piotrowski:
> > Hallo Leute,
> >
> > ich bin vor einiger Zeit über einen Fehler in Calc gestolpert. Obwohl es 
> > sich um einfache (im Dualsystem gut darstellbare) Zahlen handelt,
> Und hier irrst du. Bei *einer* der Zahlen handelt es sich um eine
> Gleitkommazahl, und Gleitkommazahlen sind (bis auf ganz wenige spezielle
> Ausnahmen[1]) praktische *nie* binär exakt darstellbar.
>
> [1] nämlich wenn der Nachkommawert exakt dem Vielfachen des Kehrwerts
> einer Zweierpotenz entspricht, also z. B. 0,25 (1/(2^2)), 0,625
> (5/(2^3)) usw.; mit z. B. dem Wert 702,125 hättest du also keinen
> Rundungsfehler bekommen.
>
> > führt 
> > bereits eine Reihe simpler Addition zu Ungenauigkeiten – siehe Anhang 
> > (einmal als ODS, einmal als PDF).
> Schon die *erste* deiner Zahlen ("702,1") ist binär nicht exakt
> darstellbar; das pflanzt sich natürlich bis zum Endergebnis fort. Wenn
> du es nicht glaubst, prüf es selber nach auf
> https://www.h-schmidt.net/FloatConverter/IEEE754de.html . Die Seite
> stellt zwar nur 32-Bit-Werte dar, Calc verwendet dagegen ein
> 64-Bit-Format. Das ändert aber nix am grundsätzlichen Prinzip, sondern
> verschiebt lediglich den Fehler um ein paar Stellen nach hinten.
>
> Wolfgang


-- 
Liste abmelden mit E-Mail an: users+unsubscribe@de.libreoffice.org
Probleme? https://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: https://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: https://listarchives.libreoffice.org/de/users/
Alle E-Mails an diese Liste werden unlöschbar öffentlich archiviert