[gelöst] Rechenfehler

[bauer-ewert]

Ist nicht wirklich wichtig für mich, aber doch ein wundersames Verhalten: LibreOffice (Excel auch) rechnet für 3^33 den falschen Wert 5559060566555520 aus. Mit Mathematikprogrammen wie http://www.mathe-online.at/Mathematica/ ... r_new.html erhält man das richtige Ergebnis 5559060566555523

Weiss jemand, warum?

Habt eine schöne Zeit!

Bernhard

[karolus]

Hallo

Calc, Excel etc rechnet immer mit Fliesskommazahlen mit 15 signifikanten Stellen.

Deine Online-Matheseite rechnet in dem Fall mit Ganzzahlen (Integer) bei denen die Genauigkeit theoretisch unbegrenzt und praktisch durch den verfügbaren Hauptspeicher begrenzt ist.

Karolus

[bauer-ewert]

Danke, Karolus.
Kommt im Alltag nicht sooo oft vor, aber schön, zu wissen, dass ich auf Papier genauer gerechnet hätte als die Tabellenkálkulationen. Ich kam durch ein Mathe-Rätsel von Albrecht Beutelsbacher auf die Frage, das sich nur um die letzte Ziffer des Rechenergebnisses kümmerte. Offen sichtlich, dass 0 nicht richtig sein kann!