[pyar] Punto flotante binario grandote (era: Int anti-intuitivo)

[QliX=D! [aka EHB]]

2010/11/17 Facundo Batista <facundobatista en gmail.com>

> 2010/11/16 QliX=D! [aka EHB] <qlixed en gmail.com>:
>
> > In [5]: float("9999999999999999.0")
> > Out[5]: 9999999999999998.0
>
> ¿Qué Python te hace eso? ¿en qué plataforma?
>
> Python 2.6.6 (r266:84292, Sep 15 2010, 15:52:39)
> [GCC 4.4.5] on linux2
> >>> float("9999999999999999.0")
> 10000000000000000.0
>
>
ipython -> Python 2.6.5 (r265:79096, Mar 19 2010, 21:48:26) [MSC v.1500 32
bit (Intel)]
float("999999999999999999.0")


In [2]: float(9999999999999999.0)
Out[2]: 9999999999999998.0

In [3]: float("9999999999999999.0")
Out[3]: 9999999999999998.0

In [4]: from decimal import getcontext, Decimal

In [5]: getcontext().prec
Out[5]: 28

In [8]: Decimal("9999999999999999.0") + 0
Out[8]: Decimal('9999999999999999.0')

In [9]: getcontext().prec=15

In [10]: Decimal("9999999999999999.0") + 0
Out[10]: Decimal('1.00000000000000E+16')


>
> > Se comporta de la misma HORRIBLE forma. Por la HORRIBLE presicion de
> Python.
>
> No, la precisión es del punto flotante de tu microprocesador, no de Python.
>
>
Si, flashee con otro cosa, tenes razon. :S.
En este solemne acto, Retirolo dicho, y prometo no volver a dar ese
calificativo a Python nunca mas.
Amen.

QliXed
------------ próxima parte ------------
Se ha borrado un adjunto en formato HTML...
URL: <http://listas.python.org.ar/pipermail/pyar/attachments/20101117/58f834b6/attachment.html>