Re: [fr-users] Précison de calculs

Bonjour,

Le 08/12/2015 10:25, Marc a écrit :
> C'est la version 5.0. Mais le problème est le même sur les version
> antérieures.
> d'après une réponse de JBF c'est normal. Je le regrette, parce que
> 64bits devrait permettre une meilleure précision.

Non 64 bits ça ne permet pas d'avoir une meilleure précision sur les
nombres en virgule flottante, voir l'article de Wikipedia. C'est déjà de
la double précision.
Pour aller plus loin, on pourrait obliger l'utilisateur à typer ses
données. Par exemple en déclarant des cellules comme des nombres
entiers, on pourrait calculer correctement jusqu'à 2^63 si on accepte
les nombres entiers négatifs et 2^64 si on n'accepte que les nombres
entiers positifs.
Je dis bien typer et non formater. La différence c'est que si une
cellule est de type entier alors on ne peut y mettre que des fonctions
qui renvoient des nombres entiers. J'imagine déjà les hauts cris poussés
par la plupart des utilisateurs devant l'augmentation de la complexité
d'utilisation du tableur, complexité parfaitement inutile pour la
plupart des utilisations.

On pourrait aussi passer en quadruple précision (128 bits) ou faire les
calculs en python qui se débrouille sans typage des données numériques
mais là on perdra en performance.

Remarque : pour calculer correctement 2^64 on peut utiliser une console
python, ça marche très bien. Même avec 2^256 :
115792089237316195423570985008687907853269984665640564039457584007913129639936
(désolé, je n'ai pas vérifié).

Bonne journée
JBF

-- 
Seuls des formats ouverts peuvent assurer la pérennité de vos documents.
Disclaimer: my Internet Provider being located in France, each of our
exchanges over Internet will be scanned by French spying services.

-- 
Envoyez un mail à users+unsubscribe@fr.libreoffice.org pour savoir comment vous désinscrire
Les archives de la liste sont disponibles à http://listarchives.libreoffice.org/fr/users/
Tous les messages envoyés sur cette liste seront archivés publiquement et ne pourront pas être 
supprimés