Re: [fr-users] Problème formatage de nombres flottants

Le 19/10/2017 à 10:40, Cley Faye a écrit :
> Bonjour, En testant des trucs pour répondre à un autre message de la 
> liste, je me suis rendu compte d'un phénomène inquiétant: l'affichage 
> incorrect de valeurs avec beaucoup de chiffres significatifs. Pour 
> reproduire ça: - Ouvrir un nouveau classeur (Calc) - Mettre 
> 111111111111111 (15 un) dans une case - Utiliser le bouton de la barre 
> d'outil pour augmenter le nombre de décimales visibles Au début 
> l'affichage est correct: 111111111111111,000000000 mais au bout d'un 
> moment, c'est n'importe quoi: 1111111111,11111000000000000000 (oui, ce 
> sont des 1 derrière la virgule). La valeur reste correcte dans les 
> calcul, mais l'affichage est clairement faux. Version: 5.3.1.2 64bit 
> OS: Linux Quelqu'un peut confirmer (ou infirmer) ?
Bonjour,

je confirme, voir configuration ci-dessous.

Avec 15 chiffres 1, la première décimale en 1 apparaît à partir de 16 
décimales.
Même comportement si on multiplie 111111111111111 par 1.
Par contre, en soustrayant la partie entière, soit
 1111111111,11111000000000000000-1111111111=0,00000000000000000000.

Autre test dans les mêmes conditions
- avec 222222222222222, on obtient 2222222222,22222000000000000000
- avec 333333333333333, on obtient 3333333333,33333000000000000000



Je suis bien en peine d'imaginer à quoi cela est dû.

LC



--
Configuration : Mac OS 10.10.5 64 bit, RAM 8 Gio, LibreOffice Stable 
5.3.5.2

--
Envoyez un mail à users+unsubscribe@fr.libreoffice.org pour vous désinscrire
Les archives de la liste sont disponibles à https://listarchives.libreoffice.org/fr/users/
Tous les messages envoyés sur cette liste seront archivés publiquement et ne pourront pas être 
supprimés