Re: [de-users] Calc - Zählenwenn

Am 25.05.2018 um 17:55 schrieb Robert Großkopf:
> Hallo André ,
>
> > ich bekomme eine "4" in A5 – wie es sein sollte …
>
> stelle ich mit Verblüffung auch fest, wenn ich die Inhalte der Mail
> einfach kopiere und in Calc einfüge.
>
> Ich muss wohl etwas mehr ausholen, da die Werte in der Spalte B
> berechnet wurden:
> Strecke[m]    Zeit[s] Platz   Geschwindigkeit[m/s]
> 2             7,31    5       0,27359781121751
> 10            2,24    1       4,46428571428571
> 1000          567,4   3       1,76242509693338
> 10            4,88    2       2,04918032786885
> 9,48          8,85    3       1,07118644067797
>
> ... ist jetzt etwas blöde mit der Formatierung. Beim Import einfach die
> Leerzeichen zusammen fassen lassen.
> Die Geschwindigkeit in der 4. Spalte wird über die Division der Inhalte
> der ersten mit der 2. Spalte berechnet.
> Formel in der 2. Zeile für den Platz:
> =ZÄHLENWENN(D$2:D$64;">="&D2)
> Formel in der 2. Zeile für die Geschwindigkeit
> =A1/B1
>
> Da kommen bei mir die merkwürdigen Platzierungen raus, bei den Zahlen
> ohne Formel aus der vorhergehenden Mail nicht.

Scheint sich wohl um einen Rundungsfehler zu handeln. Ich hab mir das
Ergebnis der letzten Zeile (das 1,07118644067797) mal etwas genauer
angesehen (abgelegt in den Zellen ab A10), und stufenweise um jeweils
eine Stelle mehr gerundet:

Wert              Stellen  Gleichheit
1,07118644067797000             0
1,07118644067797000     18      0
1,07118644067797000     17      0
1,07118644067797000     16      0
1,07118644067797000     15      0
1,07118644067797000     14      1
1,07118644067800000     13      1
1,07118644067800000     12      1
1,07118644068000000     11      1
 :

Die Formeln in Spalte A lauten dabei:
für A10 (sprich den Originalwert, wie er sich aus der Division ergibt):
| =D5

für A11 etc. (jeweils eine Stelle mehr gerundet; sicherheitshalber
angefangen noch jenseits der Darstellungsgenauigkeit):
| =RUNDEN(A10;B11)

Die Formel in Spalte C lautet:
| =ZÄHLENWENN(A10;">="&A10)

Auffällig ist dabei, dass ab einer Rundung auf 14 oder weniger Stellen
der Vergleich passt, bei mehr Stellen (die es jedoch eigentlich aufgrund
der internen Zahlendarstellung gar nicht geben dürfte) jedoch nicht.

Ich kann mir eigentlich nur einen einzigen Grund dafür vorstellen,
nämlich dass die betreffende binäre Zahl sich nicht exakt als
Dezimalzahl darstellen lässt (also genau der umgekehrte Effekt wie im
Thread "calc simple Berechnung gibt Fehler" diskutiert).

Übrigens löst sich das "...9700" mit ein bisschen Tricksen tatsächlich
auf nach "9662". Irgendwie scheint sich dieser Rundungsfehler wohl durch
zu drücken.

Warum sich das allerdings bei ZÄHLENWENN überhaupt auswirkt, verstehe
ich auch nicht. Eigentlich sollte man meinen, da wird einfach die
Binärdarstellung der Zelle mit sich selbst (also der selben
Binärdarstellung) verglichen.

Einmal wieder beweist sich der Leitsatz, dass man beim Hantieren mit
Gleitkommazahlen auch immer sehr großzügig [tm] mit der Funktion RUNDEN
umgehen sollte. :-/

Wolfgang
-- 
Dank Donald Trump ist mir endgültig klar geworden: Es ist nicht der Turm
von Pisa, der in Schieflage geraten ist, es ist die Welt.


-- 
Liste abmelden mit E-Mail an: users+unsubscribe@de.libreoffice.org
Probleme? https://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: https://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: https://listarchives.libreoffice.org/de/users/
Alle E-Mails an diese Liste werden unlöschbar öffentlich archiviert