Date: prev next · Thread: first prev next last
2016 Archives by date, by thread · List index


Wolfgang,

deine Erklärung ist nur zur Hälfte richtig. Prinzipiell könnten
Dezimalzahlen sehr wohl exakt in Binärzahlen abgebildet werden (beides
sind nur Darstellungsformen der selben Zahl - Mathematik). Das Problem
liegt darin, dass man die Genauigkeit auf eine bestimmte Anzahl von
Stellen begrenzen muss (bei interner Verwendung von Gleitkommazahlen
z.B. typischerweise 16 oder 20) - daher die kleine Differenz.

Helmut

Am 01.09.2016 um 17:15 schrieb Wolfgang Jäth:


Am 01.09.2016 um 13:18         schrieb Stefan Seifried:
Hallo liebe Nutzer,

durch Zufall ist mir heute aufgefallen, dass bei Einstellung des Zellformats "Standard" die 
Berechnung von z. B. 100,16-100,15 den Wert 0,009999999999991 ausgibt. Bei allen anderen 
Formaten mit Nachkommastellen ist die Darstellung mit 0,01 korrekt.

Ist das so von den Entwicklern beabsichtigt?

Ja und nein. Das *eigentliche* Problem liegt darin, dass bestimmte
/dezimale/ Werte (wie hier eben 0,16) nicht exakt im /binären/
Zahlensystem abgebildet werden kann, sondern nur annähernd, in dem Fall
als 0,15999999999999700000. Die von Dir beobachtete Abweichung besteht
schlicht in diesem Abbildungsfehler.

Dass diverse andere Formate die Abweichung nicht darstellen, liegt
einfach nur daran, dass diese eben auf eine geringere Anzahl Stellen
runden, wodurch sich dieser Abbildungsfehler und der durch das Runden
eigentlich verursachte Rundungsfehler gegenseitig wieder aufheben.

Das ist aber nix Calc- oder OO-spezifisches, sondern damit haben
prinzipiell *alle* Programme zu kämpfen, die in einem binären
Zahlensystem mit dezimalen Werten rechnen (oder allgemeiner ausgedrückt,
Werte aus einem Zahlensystem in ein anderes abbilden müssen).

Wolfgang



---
Diese E-Mail wurde von Avast Antivirus-Software auf Viren geprüft.
https://www.avast.com/antivirus



-- 
Liste abmelden mit E-Mail an: users+unsubscribe@de.libreoffice.org
Probleme? http://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: http://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: http://listarchives.libreoffice.org/de/users/
Alle E-Mails an diese Liste werden unlöschbar öffentlich archiviert

Context


Privacy Policy | Impressum (Legal Info) | Copyright information: Unless otherwise specified, all text and images on this website are licensed under the Creative Commons Attribution-Share Alike 3.0 License. This does not include the source code of LibreOffice, which is licensed under the Mozilla Public License (MPLv2). "LibreOffice" and "The Document Foundation" are registered trademarks of their corresponding registered owners or are in actual use as trademarks in one or more countries. Their respective logos and icons are also subject to international copyright laws. Use thereof is explained in our trademark policy.