LibreOffice-Forum

nach mehreren Versuchen, das Ganze etwas einzugrenzen, bin ich zu folgender Erkenntnis gelangt : - Calc rechnet intern mit 32 Bit Floating Point Werten - Zwischenwerte werden im (alten) Gleitkomma Format nach IEEE754 gespeichert und damit ist das Problem ursächlich, wie oben von mikele schon richtig...

@mikele Da muss ich Dich leider korrigieren, wenn Du gestattest. Die Werte werden natürlich nicht im Binärcode gespeichert, sonst wäre ja der Umgang mit großen Zahlen überhaupt nicht möglich. Meine Aussage binär bezog sich auf digital und damit ist 0,12 perfekt und absolut genau als Floting Point 12...

Hallo paljass, beide Tabellen sind mit LO gemacht und beide Tabellen sind in Excel fehlerfrei. Das einmal bis A28 und einmal bis A29 ist ein Versehen, ändert aber an dem Problem nichts. Erst , wenn man nur bis A27 addiert, verschwindet das Problem in LO, aber der Wert in der letzten Zeile ist uninte...

Für alle, die das Problem einfach nachvollziehen wollen , die Tabelle als Anhang

@mikele Das habe ich auch zuerst gedacht, bis ich den Fehler näher analysiert habe. Es kommen jetzt nur noch binär vollständig korrekt darstellbare Zahlen zum Einsatz. Der Fehler muß bei der Addition der Einzelwerte entstehen, nicht bei der Umrechnung in binäre Zahlenwerte. (MS Excel macht den Fehle...

Nimmet man die Zahl 1234
Addiert in jeder der folgenden 28 (oder mehr) Spalten jeweils 0,12
Und summiert diese Zahlen auf, erhält man ein falsches Ergebnis :

35834,7199999999 statt 35834,72

LO Version Win 4.x -5.x
unabhängig von Berechnungeinstellungen
unabhängig von der Zellenformatierung