Date: prev next · Thread: first prev next last
2018 Archives by date, by thread · List index


Am Prozessor liegt es auch nicht.

Ein vergleichbarer Versuch in PHP liefert exakt die eigentlich erwarteten Werte …

Eine Macke von Excel, aus Kompatibilitätsgründen 1:1 in Calc übernommen?


Ciao

    André



Am 23.05.2018 um 19:09 schrieb Günther Breitfuß:
Hmm... das aktuelle Excel liefert 2,100 000 000 000 02 und LibreOffice
6.0.4 exakt das gleich Ergebnis 2,100 000 000 000 02. Also nach einem
Fehler von Calc schaut mir das nicht aus.

LG Günther

Am 23.05.2018 um 18:28 schrieb André Piotrowski:
Zahlen wie die hier angegebenen lassen sich problemlos (und selbst mit
einfacher Genauigkeit) problemlos als Fließpunktzahl darstellen. Es
liegt also definitiv ein Fehler vor, und der ist bei mir
reproduzierbar. Die Frage ist nun, woran es liegt: Calc oder ein
Fehler im Microcode des Prozessors …

Das mit der Darstellung ist mir klar, beseitigt aber nicht das
Problem, wenn man exakte Werte bestimmen will. Bei der hier gebildeten
Summe aus vier niedrigen Werten mit maximal einer Stelle hinter dem
Komma darf es da auch keine Differenzen geben.

Wenn es bei Dir funktioniert, ist es möglicherweise dann doch ein
Problem des Prozessors …




Am 23.05.2018 um 18:21 schrieb Thomas Krumbein:
Hallo Andre,

die Liste akzeptiert keine Anhänge - die werden abgeschnitten.

Allerdings ergibt Deine unten angegeben Berechnung in einer Zeile
exakt 2,1 - also wie erwartet. Egal, ob Du sie als eine Zeile
eingibst (=702,1 – 200 - 300 - 200) oder jeden Wert in eine Zelle
eingibst und dann die Zellen summierst.

Du musst allerdings auch bedenken, dass ein Computer nie korrekt
rechnen kann - es wird also immer zu Rundungsfehlern kommen. Meist
sind die aber so gering und werden durch die Darstellung wieder
aufgehoben. Da Deine erste Zahl eine Dezimalzahl ist, wird intern mit
einem Double-Wert gerechnet - und der kann nie exakt sein.

Aber darüber gibt es schon soooo viele Diskusionen und Artikel -
einfach mal in Google suchen.

Und ja, das dargestellt Ergebnis deiner 2. Mail (2,1000000002) ist
eben ein Ergebnis der wieder zurückgewandelten Double-Zahl - und nie
mathematisch exakt.

Ist übrigens keine Besonderheit von Calc... kann kein
Kalkulationsprogramm besser.

Prüfe übrigens mal die Einstellung in den Optionen: Extras - Optionen
- LO Calc -> Berechnen. Die Option "Genauigkeit wie angezeigt" sollte
aktiviert sein - dann wird ein solcher Effekt nicht direkt sichtbar
sein.

VG

Thomas


Am 23.05.2018 um 17:45 schrieb André Piotrowski:

ich bin vor einiger Zeit über einen Fehler in Calc gestolpert. Obwohl
es sich um einfache (im Dualsystem gut darstellbare) Zahlen handelt,
führt bereits eine Reihe simpler Addition zu Ungenauigkeiten – siehe
Anhang (einmal als ODS, einmal als PDF).

###

Mein System:

LinuxMint 18.3 auf einem Rechner mit i7-7700 und 8 GB Speicher.

###

702,1 – 200 - 300 - 200 != 2,10

###





--
Liste abmelden mit E-Mail an: users+unsubscribe@de.libreoffice.org
Probleme? https://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: https://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: https://listarchives.libreoffice.org/de/users/
Alle E-Mails an diese Liste werden unlöschbar öffentlich archiviert

Context


Privacy Policy | Impressum (Legal Info) | Copyright information: Unless otherwise specified, all text and images on this website are licensed under the Creative Commons Attribution-Share Alike 3.0 License. This does not include the source code of LibreOffice, which is licensed under the Mozilla Public License (MPLv2). "LibreOffice" and "The Document Foundation" are registered trademarks of their corresponding registered owners or are in actual use as trademarks in one or more countries. Their respective logos and icons are also subject to international copyright laws. Use thereof is explained in our trademark policy.