Hallo namenloser user,
Die Aussage ist viel zu ungenau beschrieben. Wenn ich die Differenz
berechnen lasse, erhalte ich das Ergebnis in Exponentialdarstellung mit
den entsprechenden Ziffern wie angegeben, wenn ich aber die
Dezimaldarstellung wähle (ggf. ANzahl der gezeigten nachkommastellen
erhöhen), ist das Ergebnis exakt. Das liegt an der Berechnung mit Zahlen
in der Exponentialdarstellung. Die beiden Stellen "28" am Ende des
Ergebnisses liegen jenseits der Genauigkeit, sie sind nur deshalb
sichtbar, weil durch E-05 das Komma um 5 Stellen verschoben ist.
Übrigens zeigt Excel genau die gleichen Zahlen.
Gruß
Gerhard
Am 26.04.2021 um 17:32 schrieb arratand:
Betriebssystem: LinuxMint 20 64Bit Cinnamon
LibreOffice: 7.0.4.2
Lang: en
CPU: Intel© Core™ i5-4690 CPU @ 3.50GHz × 4
Linux Kernel: 5.4.0-72-generic
Beispiel:
0,864838970000000000 – 0,864800740000000000 = 0,000038230000000028 (inkorrekt)
Der Fehler ist reproduzierbar mit allen Zahlen.
Mit freundlichen Grüßen
User
Sent with ProtonMail Secure Email.
--
Liste abmelden mit E-Mail an: users+unsubscribe@de.libreoffice.org
Probleme? https://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: https://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: https://listarchives.libreoffice.org/de/users/
Datenschutzerklärung: https://www.documentfoundation.org/privacy
Context
Privacy Policy |
Impressum (Legal Info) |
Copyright information: Unless otherwise specified, all text and images
on this website are licensed under the
Creative Commons Attribution-Share Alike 3.0 License.
This does not include the source code of LibreOffice, which is
licensed under the Mozilla Public License (
MPLv2).
"LibreOffice" and "The Document Foundation" are
registered trademarks of their corresponding registered owners or are
in actual use as trademarks in one or more countries. Their respective
logos and icons are also subject to international copyright laws. Use
thereof is explained in our
trademark policy.