Date: prev next · Thread: first prev next last
2016 Archives by date, by thread · List index


Hallo Helmut,

was, bitte schön, verstehst Du unter exakt?

Gruß, Klaus

-----Ursprüngliche Nachricht-----
Von: Helmut Leininger [mailto:hlein@gmx.at] 
Gesendet: Donnerstag, 1. September 2016 17:44
An: users@de.libreoffice.org
Betreff: [de-users] Re: Libre Office Version: 5.2.0.4 Build-ID:
066b007f5ebcc236395c7d282ba488bca6720265-Calc - Zahlenausgabe

Wolfgang,

deine Erklärung ist nur zur Hälfte richtig. Prinzipiell könnten
Dezimalzahlen sehr wohl exakt in Binärzahlen abgebildet werden (beides sind
nur Darstellungsformen der selben Zahl - Mathematik). Das Problem liegt
darin, dass man die Genauigkeit auf eine bestimmte Anzahl von Stellen
begrenzen muss (bei interner Verwendung von Gleitkommazahlen z.B.
typischerweise 16 oder 20) - daher die kleine Differenz.

Helmut

Am 01.09.2016 um 17:15 schrieb Wolfgang Jäth:


Am 01.09.2016 um 13:18         schrieb Stefan Seifried:
Hallo liebe Nutzer,

durch Zufall ist mir heute aufgefallen, dass bei Einstellung des
Zellformats "Standard" die Berechnung von z. B. 100,16-100,15 den Wert
0,009999999999991 ausgibt. Bei allen anderen Formaten mit Nachkommastellen
ist die Darstellung mit 0,01 korrekt.

Ist das so von den Entwicklern beabsichtigt?

Ja und nein. Das *eigentliche* Problem liegt darin, dass bestimmte 
/dezimale/ Werte (wie hier eben 0,16) nicht exakt im /binären/ 
Zahlensystem abgebildet werden kann, sondern nur annähernd, in dem 
Fall als 0,15999999999999700000. Die von Dir beobachtete Abweichung 
besteht schlicht in diesem Abbildungsfehler.

Dass diverse andere Formate die Abweichung nicht darstellen, liegt 
einfach nur daran, dass diese eben auf eine geringere Anzahl Stellen 
runden, wodurch sich dieser Abbildungsfehler und der durch das Runden 
eigentlich verursachte Rundungsfehler gegenseitig wieder aufheben.

Das ist aber nix Calc- oder OO-spezifisches, sondern damit haben 
prinzipiell *alle* Programme zu kämpfen, die in einem binären 
Zahlensystem mit dezimalen Werten rechnen (oder allgemeiner 
ausgedrückt, Werte aus einem Zahlensystem in ein anderes abbilden müssen).

Wolfgang



---
Diese E-Mail wurde von Avast Antivirus-Software auf Viren geprüft.
https://www.avast.com/antivirus



--
Liste abmelden mit E-Mail an: users+unsubscribe@de.libreoffice.org
Probleme?
http://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: http://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: http://listarchives.libreoffice.org/de/users/
Alle E-Mails an diese Liste werden unlöschbar öffentlich archiviert


-- 
Liste abmelden mit E-Mail an: users+unsubscribe@de.libreoffice.org
Probleme? http://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: http://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: http://listarchives.libreoffice.org/de/users/
Alle E-Mails an diese Liste werden unlöschbar öffentlich archiviert

Context


Privacy Policy | Impressum (Legal Info) | Copyright information: Unless otherwise specified, all text and images on this website are licensed under the Creative Commons Attribution-Share Alike 3.0 License. This does not include the source code of LibreOffice, which is licensed under the Mozilla Public License (MPLv2). "LibreOffice" and "The Document Foundation" are registered trademarks of their corresponding registered owners or are in actual use as trademarks in one or more countries. Their respective logos and icons are also subject to international copyright laws. Use thereof is explained in our trademark policy.