LibreOffice-Forum

Ist nicht wirklich wichtig für mich, aber doch ein wundersames Verhalten: LibreOffice (Excel auch) rechnet für 3^33 den falschen Wert 5559060566555520 aus. Mit Mathematikprogrammen wie http://www.mathe-online.at/Mathematica/ ... r_new.html erhält man das richtige Ergebnis 5559060566555523

Weiss jemand, warum?

Habt eine schöne Zeit!

Bernhard

Hallo

Calc, Excel etc rechnet immer mit Fliesskommazahlen mit 15 signifikanten Stellen.

Deine Online-Matheseite rechnet in dem Fall mit Ganzzahlen (Integer) bei denen die Genauigkeit theoretisch unbegrenzt und praktisch durch den verfügbaren Hauptspeicher begrenzt ist.

Karolus

Danke, Karolus.
Kommt im Alltag nicht sooo oft vor, aber schön, zu wissen, dass ich auf Papier genauer gerechnet hätte als die Tabellenkálkulationen. Ich kam durch ein Mathe-Rätsel von Albrecht Beutelsbacher auf die Frage, das sich nur um die letzte Ziffer des Rechenergebnisses kümmerte. Offen sichtlich, dass 0 nicht richtig sein kann!