Le 18/12/10 11:55, Michel Rudelle a écrit :
Bonjour,
…
Les nombres sont mémorisés sous forme de réels dits double précision
sur 8
octets (dans des temps anciens où la mémoire était rare et chère on
utilisait des single sur 4 octets). Ceci limite la précision que
l'on peut
obtenir et qui est largement suffisante dans la plupart des cas.
Je n'ai jamais utilisé Framework, mais quand tu parles de 64 décimales,
es-tu sûr qu'il s'agit bien de nombre significatifs, car le stockage
sur 8
octets correspond à 64 bits).
De mémoire oui, on avait les 64 décimales visibles à l'écran.
À l'époque, quand on avait eu notre premier poste avec Excel, le
technicien qui développait nos programmes avait été piégé sur
certains calculs, faux sous Excel, en raison des arrondis.
Sous Framework hélas, nous n'avions pas un grapheur digne de ce nom.
Je ne saurais en dire plus, les détails sont bien enfouis dans ma
mémoire désormais…
C'est donc le fonctionnement "classique", on peut aller au-delà avec
d'autres outils, mais avec un tableur ?
Peut-être quelqu'un a-t-il une réponse ?
Bonne journée.
Michel
Bonne journée