Re: [de-users] Libre Office Version: 5.2.0.4 Build-ID: 066b007f5ebcc236395c7d282ba488bca6720265-Calc - Zahlenausgabe

Am 01.09.2016 um 13:18         schrieb Stefan Seifried:
> Hallo liebe Nutzer,
>
> durch Zufall ist mir heute aufgefallen, dass bei Einstellung des Zellformats "Standard" die 
> Berechnung von z. B. 100,16-100,15 den Wert 0,009999999999991 ausgibt. Bei allen anderen Formaten 
> mit Nachkommastellen ist die Darstellung mit 0,01 korrekt.
>
> Ist das so von den Entwicklern beabsichtigt?

Ja und nein. Das *eigentliche* Problem liegt darin, dass bestimmte
/dezimale/ Werte (wie hier eben 0,16) nicht exakt im /binären/
Zahlensystem abgebildet werden kann, sondern nur annähernd, in dem Fall
als 0,15999999999999700000. Die von Dir beobachtete Abweichung besteht
schlicht in diesem Abbildungsfehler.

Dass diverse andere Formate die Abweichung nicht darstellen, liegt
einfach nur daran, dass diese eben auf eine geringere Anzahl Stellen
runden, wodurch sich dieser Abbildungsfehler und der durch das Runden
eigentlich verursachte Rundungsfehler gegenseitig wieder aufheben.

Das ist aber nix Calc- oder OO-spezifisches, sondern damit haben
prinzipiell *alle* Programme zu kämpfen, die in einem binären
Zahlensystem mit dezimalen Werten rechnen (oder allgemeiner ausgedrückt,
Werte aus einem Zahlensystem in ein anderes abbilden müssen).

Wolfgang
-- 

-- 
Liste abmelden mit E-Mail an: users+unsubscribe@de.libreoffice.org
Probleme? http://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: http://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: http://listarchives.libreoffice.org/de/users/
Alle E-Mails an diese Liste werden unlöschbar öffentlich archiviert