Re: [de-users] Calc rechnet falsch!?

Am 06.11.2019 um 11:54 schrieb Ernst Hügli:
> Ich bin auf ein Problem mit Calc gestossen, das doch erstaunlich ist: 
> Calc rechnet falsch!
>
> Zunächst die Beschreibung der Situation: Seit langer Zeit mache ich 
> täglich Sudoku und notiere mir in einer Calc-Tabelle die Ergebnisse, 
> u.a. die Zeit, die es dauert, bis ich die erste Zahl finde. In der 
> Zwischenzeit sind so 1077 Datensätze entstanden, von denen u.a. der 
> Mittelwert berechnet wird (mit der Calc-Funktion =MITTELWERT()). Die 
> zugehörige Calc-Datei befindet sich auf einem USB-Stick. Während der 
> Woche erfolgt die Auswertung mit LO 6.1.6.3 auf einem Windows-Desktop-PC 
> unter Windows 10, am Wochenende mit LO 6.2.7 auf einem Windows-Laptop 
> unter Windows 10. Die Datei selbst bleibt – da auf einem Stick – immer 
> genau die gleiche (Daten, Formeln, Formate, ...), nur die LO-Version 
> ändert. Die Eintragungen werden also abwechselnd mit dem Desktop-PC oder 
> dem Laptop in die gleiche Datei gemacht.
>
> Jetzt zu meiner Beobachtung: Ich habe beim Mittelwert der ersten 
> beobachteten Zahlenreihe festgestellt, dass bei der älteren Version der 
> Wert 00:07 angezeigt wird, was 7 Sekunden entspricht (da meine „Werte“ 
> immer unter einer Stunde liegen, habe ich per Format-Befehl die Anzeige 
> von Stunden unterdrückt). Bei der neueren Version wird aber 00:06 
> angezeigt. Ich habe dann die Zeit-Formatierung entfernt und die beiden Werte
> 7.93189797604294E-05 (alte Version)
> 7.93496985357449E-05 (neue Version)
> erhalten. Verwandle ich sie nach den Regeln der Mathematik wieder in 
> Zeiten, indem ich diese Zahl mit 24 x 3600 multipliziere, so erhalte ich 
> 6.85 [s] (Wert der älteren LO-Version) bzw. 6.86 [s] (Wert der neueren 
> LO-Version). 

Genau genommen 6,853159851301100000 bzw. 6,855813953488360000; die
Differenz beträgt also nicht, wie du fälschlich vermutest, 0,01 (6.85
vs. 6.86), sondern eine ganze Zehnerpotenz weniger, nämlich
0,002654102187259260 Sekunden, oder genauer gesagt
0,00000003071877531550 Tage, denn in dieser Einheit werden Zeit- und
Datumswerte gespeichert. Abweichungen in der *8* *Stelle* hinter dem
Komma klingen für mich aber eher nach einem *Rundungsfehler*, nicht nach
einem /Rechenfehler/.

Btw., Rundungsfehler hängen auch stark davon ab, wie sehr die
Ausgangsdaten bereits vorher verarbeitet wurden (sprich welche
Rundungsfehler sich /vorher/ schon eingeschlichen haben. Das kann sich
derart potenzieren, dass der Fehler durchaus mehrere Zehnerpotenzen hoch
wandern kann.

Was die Abweichung der beiden Werte an geht, würde ich spontan darauf
tippen, dass entweder eines der beiden eingesetzten Geräte nur ein
32bit-System ist, oder möglicherweise die Daten auf den beiden Systemen
doch nicht ganz sooo exakt bis in die letzte Stelle hinter dem Komma
überein stimmen (und da reicht im Prinzip schon ein einziger Wert). Erst
/danach/ würde ich, wenn überhaupt, (und auch nur minimale) Unterschiede
beim Rundungsverhalten der beiden Softwareversionen in Betracht ziehen.
Einen Rechenfehler würde ich jedenfalls definitiv ausschließen wollen.

> Obschon es sich um eine spezielle Situation handelt, die nicht leicht zu 
> reproduzieren ist, meine Frage an die Runde: Hat jemand ähnliche 
> Erfahrungen gemacht?

Och, solche Fragen bezüglich als Rechenfehler fehlinterpretierte
Rundungsfehler kommen immer wieder mal hier rein; derartige Erfahrungen
sind also durchaus vorhanden ... ;-)

Wolf 'aber soweit ich mich erinnern kann, saß der Fehler bisher doch
jedes mal /vor/ dem Bildschirm <duck>' gang
-- 
Donald Trump ist ein großer Visionär, der seiner Zeit weit voraus ist:
Er verbreitet schon jetzt den Slogan "make America great again", obwohl
dieser erst in der Ära /nach/ ihm seine volle Bedeutung entfalten wird.


-- 
Liste abmelden mit E-Mail an: users+unsubscribe@de.libreoffice.org
Probleme? https://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: https://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: https://listarchives.libreoffice.org/de/users/
Datenschutzerklärung: https://www.documentfoundation.org/privacy