BITTE helfen Sie uns HEUTE mit einer SPENDE
Helfen Sie das LibreOffice Forum zu erhalten!

❤️ DANKE >><< DANKE ❤️

> KEINE WERBUNG FÜR REGISTRIERTE BENUTZER!<
Ihre Spende wird für die Deckung der laufenden Kosten sowie den Erhalt und Ausbau 🌱 des LibreOffice Forums verwendet.
🤗 Als Dankeschön werden Sie im Forum als LO-SUPPORTER gekennzeichnet. 🤗

Warum kann LibreOffice nicht 1,001 -1 ausrechnen?

CALC ist die Tabellenkalkulation, die Sie immer wollten.
Volker_D
Beiträge: 47
Registriert: Sa 3. Jun 2023, 16:46

Warum kann LibreOffice nicht 1,001 -1 ausrechnen?

Beitrag von Volker_D » Sa 3. Jun 2023, 16:51

Hallo,

mir ist klar, dass es Grenzen gibt, weil Zahlen unterschiedlich gespeichert werden. Ich weiß, wie Interger Zahlen, Fließkommazahlen, ... intern in einem Computer abgespeichert werden.
Aber kann mir jemand sagen, warum LibreOffice 1,01-1 richtig rechnet, aber 1,001-1 falsch ausrechnet?
Ich demonstriere den Fehler hier:
https://youtu.be/e1a1iJOeejg

Danke
Zuletzt geändert von Volker_D am So 4. Jun 2023, 10:36, insgesamt 1-mal geändert.

Freischreiber
Beiträge: 755
Registriert: Fr 28. Mär 2014, 10:41

Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?

Beitrag von Freischreiber » Sa 3. Jun 2023, 17:11

Hallo Volker,

kann ich nicht bestätigen, siehe Screenshot.
Rundung.png
Rundung.png (5.4 KiB) 715 mal betrachtet
Vielleicht in der Zellformatierung mal die Anzahl der Nachkommastellen erhöhen oder die Angabe dort löschen.

Gruß
Freischreiber
Freischreiber nutzt seit 6/2023 LibreOffice Version: 7.2.7.2 (x64) unter Windows 10 und SplitDB mit HSQL 2.7.2.

Volker_D
Beiträge: 47
Registriert: Sa 3. Jun 2023, 16:46

Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?

Beitrag von Volker_D » Sa 3. Jun 2023, 17:17

Das habe ich gemacht. Guck dir mal das Video an. Ich habe mir 20 Nachkommastellen anzeigen lassen und das Ergebis ist total falsch. Ich vermute, dass er das Ergebnis sich nicht als Fließkommazahl merkt, sondern als Interger speichert. Was aber eigentlich komisch ist, da es sich bei der Rechnung um zwei Gleitkommazahlen handelt.

Volker_D
Beiträge: 47
Registriert: Sa 3. Jun 2023, 16:46

Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?

Beitrag von Volker_D » Sa 3. Jun 2023, 17:23

Nachtrag: Angeblich kommt dort 0,0099999999999989 raus. Das muss ein Umrechnungsfehler von Gleitkomma auf Integer sein. Mir ist nur nicht klar, warum das nicht schon bei 1,01 - 1 passiert. Dort müsste es ja zum gleichen Problem kommen.

Lupo
Beiträge: 279
Registriert: Do 11. Okt 2012, 14:22

Beitrag von Lupo » Sa 3. Jun 2023, 17:32

Das ist gerade das Tückische dran: Mal ja, mal nein. Daher bitte immer Vorsorge treffen, falls es auf absolute Genauigkeit ankommt. Z.B. yVERGLEICH und yVERWEIS nur mit gerundeten Such- UND Suchbereichs-Gleitkommazahlen durchführen. Hinweis für die, die sich nicht mit DatumZeit-Werten in Tabellenkalkulationen auskennen: Eine Zeit ist ein Bruchteil von 1, also eine Gleitkommazahl. Daher auch dort runden. y steht hier übrigens als Variable für [nichts], S, H und X.
MfG Lupo - xxcl.de Win10ProLO6062

mikele
Beiträge: 1642
Registriert: Mo 1. Aug 2011, 20:51

Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?

Beitrag von mikele » Sa 3. Jun 2023, 17:46

Hallo,
wenn du dir die Binärdarstellungen von 0,001 und 0,01 ansiehst (die ja periodisch sind und daher irgendwann abgeschnitten werden müssen), ahnst du worin das Problem steckt.
Zuletzt geändert von mikele am Sa 3. Jun 2023, 18:11, insgesamt 1-mal geändert.
Gruß,
mikele

Volker_D
Beiträge: 47
Registriert: Sa 3. Jun 2023, 16:46

Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?

Beitrag von Volker_D » Sa 3. Jun 2023, 17:53

Danke. Die Binärdarstellung ist mir bekann. Aber das Problem müsste ja schon 1,01 - 1 und bei 1,1 -1 auftreten. Warum tritt es also dort nicht auf?

Volker_D
Beiträge: 47
Registriert: Sa 3. Jun 2023, 16:46

Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?

Beitrag von Volker_D » Sa 3. Jun 2023, 17:55

Kann ich unter LibreOffice den Datentyp casten/festlegen?

Nach welchen Regeln ändert LibreOffice den Datentyp. Ich erkenne nicht die Regel. Es scheint mir etwas "willkürlich" die Datentypen zu wechseln.

mikele
Beiträge: 1642
Registriert: Mo 1. Aug 2011, 20:51

Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?

Beitrag von mikele » Sa 3. Jun 2023, 18:10

Hallo,
die Abweichungen sind nicht gleich. Es ist ja binär nicht so, dass sich einfach die Kommastelle verschiebt (wie in der Dezimaldarstellung).
Intern ist es immer derselbe Typ, nur die Darstellung ist eine andere.
Gruß,
mikele

Benutzeravatar
karolus
Beiträge: 2170
Registriert: Fr 10. Dez 2010, 10:01

Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?

Beitrag von karolus » Sa 3. Jun 2023, 18:34

Hallo

Calc kennt exakt zwei Datentypen: Text ( ist hier im Kontext irrelevant ) und 64bit Gleitkommazahlen, (ca. 14 signifikante Dezimalstellen ) es wird also nix gecastet zwischen Integer und Float. Punkt.

und falls du dich weiterhin echauffieren möchtest über diese ungeheuerliche Ungenauigkeit … mit der 14 Dezimalstelle von PI kannst du den Erdumfang auf 4µm genau berechnen. https://de.wikipedia.org/wiki/Kreiszahl
LO7.4.7.2 debian 12(bookworm) auf Raspberry4b 8GB (64bit)
LO7.6.3.2 flatpak debian 12(bookworm) auf Raspberry4b 8GB (64bit)

An alle, die das LibreOffice-Forum nutzen:


Bitte beteiligen Sie sich mit 7 Euro pro Monat und helfen uns bei unserem Budget für das Jahr 2024.
Einfach per Kreditkarte oder PayPal.
Als Dankeschön werden Sie im Forum als LO-SUPPORTER gekennzeichnet.

❤️ Vielen lieben Dank für Ihre Unterstützung ❤️

Antworten