Date: prev next · Thread: first prev next last
2018 Archives by date, by thread · List index


Am 23.05.2018 um 18:28 schrieb André Piotrowski:
Zahlen wie die hier angegebenen lassen sich problemlos (und selbst mit 
einfacher Genauigkeit) problemlos als Fließpunktzahl darstellen. Es 
liegt also definitiv ein Fehler vor, und der ist bei mir reproduzierbar. 
Die Frage ist nun, woran es liegt: Calc oder ein Fehler im Microcode des 
Prozessors …

Weder noch; wenn du so willst, liegt es an der von der IEEE
intermational genormten Darstellung von Gleitkommazahlen auf
Binärsystemen. Lies
http://www.iti.fh-flensburg.de/lang/informatik/ieee-format.htm .

Das mit der Darstellung ist mir klar, beseitigt aber nicht das Problem, 
wenn man exakte Werte bestimmen will. 

Es gibt Zahlen, die *kann* man nicht exakt bestimmen; im Dezimalsystem
wäre das z. B. die Zahl 1/3; oder Pi; usw. Und im Binärsystem ist das
eben u. a. die Zahl 2,1.

Bei der hier gebildeten Summe aus
vier niedrigen Werten mit maximal einer Stelle hinter dem Komma darf es 
da auch keine Differenzen geben.

innerhalb des *Darstellungsbereiches* gültiger Zahlen tut (d. h. alles
was sich mit 64 Bit darstellen lässt) es das auch nicht.

Wenn es bei Dir funktioniert, ist es möglicherweise dann doch ein 
Problem des Prozessors …

Nein; das Problem sitzt /vor/ dem Bildschirm.

Wolfgang
-- 
Dank Donald Trump ist mir endgültig klar geworden: Es ist nicht der Turm
von Pisa, der in Schieflage geraten ist, es ist die Welt.


-- 
Liste abmelden mit E-Mail an: users+unsubscribe@de.libreoffice.org
Probleme? https://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: https://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: https://listarchives.libreoffice.org/de/users/
Alle E-Mails an diese Liste werden unlöschbar öffentlich archiviert

Context


Privacy Policy | Impressum (Legal Info) | Copyright information: Unless otherwise specified, all text and images on this website are licensed under the Creative Commons Attribution-Share Alike 3.0 License. This does not include the source code of LibreOffice, which is licensed under the Mozilla Public License (MPLv2). "LibreOffice" and "The Document Foundation" are registered trademarks of their corresponding registered owners or are in actual use as trademarks in one or more countries. Their respective logos and icons are also subject to international copyright laws. Use thereof is explained in our trademark policy.