Re: [de-users] Calc rechnet falsch!?

Hallo Ernst, *,

On Wed, Nov 6, 2019 at 6:00 PM Ernst Hügli <ernst.huegli@bluewin.ch> wrote:
> Am 06.11.19 um 13:14 schrieb Wolfgang Jäth:
> > Am 06.11.2019 um 11:54 schrieb Ernst Hügli:
> > Genau genommen 6,853159851301100000 bzw. 6,855813953488360000; die
> > Differenz beträgt also nicht, wie du fälschlich vermutest, 0,01 (6.85
> > vs. 6.86), sondern eine ganze Zehnerpotenz weniger, nämlich
> > 0,002654102187259260 Sekunden, oder genauer gesagt
> > 0,00000003071877531550 Tage, denn in dieser Einheit werden Zeit- und
> > Datumswerte gespeichert. Abweichungen in der *8* *Stelle* hinter dem
> > Komma klingen für mich aber eher nach einem *Rundungsfehler*, nicht nach
> > einem /Rechenfehler/.
> > […]
> > Was die Abweichung der beiden Werte an geht, würde ich spontan darauf
> > tippen, dass entweder eines der beiden eingesetzten Geräte nur ein
> > 32bit-System ist, […]
>
> Ich habe Wolfgang per PM mitgeteilt, dass sein Beitrag nichts zur
> Thematik beiträgt, weil er am Problem vorbeigeht. Also bitte unbeachtet
> lassen.

Im Gegenteil - der hat sehr wohl etwas damit zu tun.
Ich tippe genauso wie er auf eine 32bit vs 64bit Version - denn da
gibt es einen Unterschied bei der floating-point berechnung zwischen
x87 auf 32bit vs Berechnung via SSE2-Erweiterungen auf 64bit

Die haben unterschiedliche Präzision / unterschiedlich große interne
Register und somit unterschiedliche Rundungsfehler bei der Berechnung.

Und auch mit dem Hinweis, dass Datums/Zeitwerte in einer
Tabellenkalkulation in Einheiten von Tagen repräsentiert werden ist
hier wichtig:
Denn dadurch hast du bei Werten im Sekundenbereich eben kleine Fließkommazahlen.

Würdest Du anstattdessen mit den Sekundenwerten selbst rechnen, also
mit Ganzzahlen kommt es bei Berechnung des Mittelwerts nur einmal zu
einer Fließkommazahl (bei der Division durch die Anzahl der Werte),
während bei Datumswerten selbst die Summe mit Fließkommazahlen
berechnet werden muss) - und da treten einfach prinzipiell
Rundungsfehler auf. Abhängig von den konkreten Werten heben die sich
ggf. auf oder summieren sich.
Wolfgangs Antwort also als "am Problem vorbei" zu bezeichnen ist für
mich nicht nachvollziehbar.
Er hat nur insofern "unrecht" als dass die 32bit FPU mehr bits für die
Berechnung hat und somit theoretisch genauer rechnet als die SSE2
Instruktionen, die können dafür mehr auf einmal/sind um ein vielfaches
schneller...

ciao
Christian

-- 
Liste abmelden mit E-Mail an: users+unsubscribe@de.libreoffice.org
Probleme? https://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: https://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: https://listarchives.libreoffice.org/de/users/
Datenschutzerklärung: https://www.documentfoundation.org/privacy