Re: [fr-users] [Calc] profondeur de calcul

Le 18/12/2010 12:19, lutch a écrit :
> Le 18/12/10 11:55, Michel Rudelle a écrit :
> > Bonjour,
> >
> > …
> > Les nombres sont mémorisés sous forme de réels dits double précision 
> > sur 8
> > octets (dans des temps anciens où la mémoire était rare et chère on
> > utilisait des single sur 4 octets). Ceci limite la précision que l'on 
> > peut
> > obtenir et qui est largement suffisante dans la plupart des cas.
> > Je n'ai jamais utilisé Framework, mais quand tu parles de 64 décimales,
> > es-tu sûr qu'il s'agit bien de nombre significatifs, car le stockage 
> > sur 8
> > octets correspond à 64 bits).
>
> De mémoire oui, on avait les 64 décimales visibles à l'écran.
> À l'époque, quand on avait eu notre premier poste avec Excel, le 
> technicien qui développait nos programmes avait été piégé sur certains 
> calculs, faux sous Excel, en raison des arrondis.
> Sous Framework hélas, nous n'avions pas un grapheur digne de ce nom.
> Je ne saurais en dire plus, les détails sont bien enfouis dans ma 
> mémoire désormais…
> > C'est donc le fonctionnement "classique", on peut aller au-delà avec
> > d'autres outils, mais avec un tableur ?
> > Peut-être quelqu'un a-t-il une réponse ?
> >
> > Bonne journée.
> >
> > Michel
>
> Bonne journée
Je profite de la discussion : Dans mon cas, j'essaie de concevoir une 
feuille Calc qui explique le fonctionnement de ces nombres réels et leur 
stockage en machine. Or, 15 décimales, c'est trop petit. Je pensais que 
la notation scientifique permettait de s'affranchir de cette limitation.

--
Envoyez un mail à users+help@fr.libreoffice.org pour savoir comment vous désinscrire
Les archives de la liste sont disponibles à http://fr.libreoffice.org/lists/users/
Tous les messages envoyés sur cette liste seront archivés publiquement et ne pourront pas être 
supprimés