[Python-de] Wer nicht fragt, bleibt dumm

Detlef Lannert lannert at uni-duesseldorf.de
Die Nov 25 14:17:01 CET 2003


Falk Friedrich <frodo at prima.de> wrote:
> "%.51f" % ((2.0 ** 0.5) ** 2)
> '2.000000000000000444089209850062616169452667236328125'
> 
> Die Hardware _scheint_ noch mehr herzugeben, als python ausgibt. :->

Genau, _scheint_. Bei den meisten Zahlen dürfte es möglich sein,
sich beliebig viele Stellen ausgeben zu lassen ... das ist aber keine
von der Hardware gelieferte Präzision, sondern ein Artefakt der
Konvertierung. Aber vielleicht läuft Dein Python auf einer 390-Maschine;
dort gibt es m.W. REAL*16 mit 112 Bit Mantisse (28 Hexaziffern) ;-).

  Detlef