RE: [fr-users] [Calc] profondeur de calcul

Bonjour,

> De : lutch [mailto:lutch@free.fr]
> Envoyé : samedi 18 décembre 2010 11:17
> Objet : [fr-users] [Calc] profondeur de calcul
>
> je saisis l'interrogation citée ci-dessous et la réponse apportée pour
> poser une question de fond.
>
> Pour quelle raison tous les chiffriers modernes limitent-ils leurs
> calculs à une profondeur de 15 décimales ?
> Mon interrogation se fonde sur un exemple que j'ai utilisé jadis sous
> une version antédiluvienne —Framework, un logiciel dit "intégré" dont le
> tableur savait calculer sur 64 décimales.
>
> Mes maigres connaissances techniques ne me permettent pas de comprendre
> seul.
> Comment la puissance de calcul des machines a-t-elle pu évoluer dans des
> proportions considérables, sans que les logiciels aient vu dépasser
> cette limitation ?
>
> Cette limitation peut-elle amener les utilisateurs aux besoins les plus
> "pointus" à renoncer à l'usage d'un tableur ?

Les nombres sont mémorisés sous forme de réels dits double précision sur 8
octets (dans des temps anciens où la mémoire était rare et chère on
utilisait des single sur 4 octets). Ceci limite la précision que l'on peut
obtenir et qui est largement suffisante dans la plupart des cas.
Je n'ai jamais utilisé Framework, mais quand tu parles de 64 décimales,
es-tu sûr qu'il s'agit bien de nombre significatifs, car le stockage sur 8
octets correspond à 64 bits).

C'est donc le fonctionnement "classique", on peut aller au-delà avec
d'autres outils, mais avec un tableur ?
Peut-être quelqu'un a-t-il une réponse ?

Bonne journée.

Michel


> Le 17/12/10 22:34, Michel Rudelle a écrit :
>  > Bonsoir,
>  >
>  >> De : "Cédric V." [mailto:big0424@gmail.com]
>  >> Envoyé : vendredi 17 décembre 2010 21:20
>  >>
>  >> Bonsoir,
>  >> Peut-être pouvez-vous m'aider à éclaircir un point.
>  >> Sous LO RC1, dans calc, je tente de convertir en nombre le texte
> suivant
>  >> : 1,00010100010011110110000
>  >> Or, CNUM se borne à m'afficher 1,0001010001 !
>  >>
>  >> Pourtant, je fais =CNUM(B14), B14 ayant mon texte.
>  >> Par ailleurs, je ne trouve nulle part dans l'aide si CNUM est limité
>  >> dans les décimales.
>  >>
>  >> Mon but est d'afficher un format scientifique, du style
>  >> 1,00010100010011110110000E14.
>  >> En B14 j'ai le texte, en B15 l'exposant (selon une méthode précise),
> et
>  >> j'ai besoin de les fusionner et de les afficher au format "standard",
>  >> 100010100001001,1110110000 dans mon cas.
>  >>
>  >
>  > Ce n'est pas la fonction CNUM qui limite mais le tableur lui-même qui
> ne
>  > travaille qu'avec un nombre de chiffres significatifs limités à 15.
>  > …
>  > Je ne sais pas s'il est possible sur un tableur de faire
>  > mieux.
>  >
>  > Bonne soirée.
>  >


-- 
Envoyez un mail à users+help@fr.libreoffice.org pour savoir comment vous désinscrire
Les archives de la liste sont disponibles à http://fr.libreoffice.org/lists/users/
Tous les messages envoyés sur cette liste seront archivés publiquement et ne pourront pas être 
supprimés