Rechenfehler / Ungenauigkeit LO Calc

[Wanderer]

Hallo,

LO Version Win 4.x -5.x
unabhängig von Berechnungeinstellungen
unabhängig von der Zellenformatierung

bei meinem Test lässt sich Deine Rechenfehler-1.ods durchaus vom Zellformat und der Einstellung
"Genauigkeit wie angezeigt" beeinflussen. (Ohne die Änderung zeigt meine Spalte C dieselben werte wie D;
wichtig ist die Formatierung in Spalte B mit 2 Nachkommastellen, nicht "Standard")

Dies vermeidet allerdings nicht den eigentlichen Rechenfehler, sondern rundet in der Zielzelle,
so daß man mit einem korrigierten Wert weiterrechnet und eine Fehlerakkumulation vermeiden kann.
Bei internen Funktionen wie SUMME wird dann aber wohl auch erst am Ende das dargestellte Ergebnis gerundet.
Durch Anpassung des Rechenwegs kann man so z.B. fehlende Pfennige für die Buchhaltung vermeiden.

Getestet unter LO 5.1.1.3 und Win10-64;
Welche Excel-Version hast Du genutzt? Es ist denkbar, daß eine Ähnliche Option wie "Genauigkeit wie angezeigt" bei Deiner Excel-Version standardmäßig aktiv ist.

MfG, Jörn

[Wanderer]

Hallo,

Für alle, die das Problem einfach nachvollziehen wollen , die Tabelle als Anhang

Rechenfehler_1.ods

Rechenfehler_1.xls

ich hab die xls-Datei in der alten Excel2003-Version geladen (Win7), die ich noch archiviert habe,
falls mal Probleme mit unseren alten xls-Dateien auftauchen.

Die Summe in der letzten Zeile zeigt zunächst keine Ungenauigkeit an.
Dies ändert sich aber sobald ich vom Format Standard auf 10 Nachkommastellen umschalte:
34597,3599999999

Demnach rechnet Excel 2003 nicht viel anders als Calc, hat aber eine clevere Anzeigerundung
im Format Standard - man sieht den Fehler also nicht. Die neueren Versionen kann ich hier nicht
prüfen, da ich sie hier nie genutzt habe.

MfG, Jörn

[Mr. Hobbybyte]

nach mehreren Versuchen, das Ganze etwas einzugrenzen,
bin ich zu folgender Erkenntnis gelangt :

- Calc rechnet intern mit 32 Bit Floating Point Werten
- Zwischenwerte werden im (alten) Gleitkomma Format nach IEEE754 gespeichert

und damit ist das Problem ursächlich, wie oben von mikele schon richtig vermutet,
durch eine ungenaue Umwandlung in das (alte) Gleitkommaformat entstanden.
Dieses führt dann bei Additionen zu den beschriebenen Ungenauigkeiten.
Ich hätte allerdings vermutet, dass Berechnungen entweder durch eine eigene
Arithmetik oder aber zumindest mit Hilfe von genaueren Zwischenwerten
erfolgen. Dies ist aber (bis jetzt noch) nicht der Fall.

@mikele
Dein Test zeigt genau das Problem mit den Zwischenwerten an.
Eine 'einfache' Lösung des Dilemmas wäre das neuere Gleitkomma Format IEEE 754-2008 zu benutzen, da
hier eine exakte Umrechnung von Dezimalwerten auch mit Nachkommastellen möglich wäre.
Da ich noch keine Zeit gefunden habe, mir den Source genauer anzusehen, weiß ich nicht , ob das auch
einfach umzusetzen wäre (bfp754.h), da ja alle grundlegenden Funktionen davon betroffen sind.

@Wanderer
Die Option "Genauigkeit wie angezeigt" kann unter bestimmten Umständen den Fehler verschleiern,
aber bei der Rechnung mit Brüchen sogar neue Fehler produzieren. Bei den Tests war diese Option
überall abgeschaltet.
Ich habe mit unterschiedlichen Excel Versionen von 97 - 2013 getestet und Unterschiedliche (Un)genauigkeiten
festgestellt. Ich habe bei Excel sogar teilweise Auswirkungen des benutzten Betriebssystems gefunden (32 oder 64 Bit)
Ein 64 Bit Excel hatte ich zum Testen nicht zur Verfügung
Nach meiner jetzigen Erkenntnis wird das Problem von Excel auch nur durch geschickte Rundung mit Hilfe der letzten
Stelle(n) umgangen, nicht aber wirklich gelöst.

Danke und viele Grüße