BITTE helfen Sie uns HEUTE mit einer SPENDE
Helfen Sie das LibreOffice Forum zu erhalten!
> KEINE WERBUNG FÜR REGISTRIERTE BENUTZER!<
Ihre Spende wird für die Deckung der laufenden Kosten sowie den Erhalt und Ausbau 🌱 des LibreOffice Forums verwendet.
🤗 Als Dankeschön werden Sie im Forum als LO-SUPPORTER gekennzeichnet. 🤗
Warum kann LibreOffice nicht 1,001 -1 ausrechnen?
Warum kann LibreOffice nicht 1,001 -1 ausrechnen?
Hallo,
mir ist klar, dass es Grenzen gibt, weil Zahlen unterschiedlich gespeichert werden. Ich weiß, wie Interger Zahlen, Fließkommazahlen, ... intern in einem Computer abgespeichert werden.
Aber kann mir jemand sagen, warum LibreOffice 1,01-1 richtig rechnet, aber 1,001-1 falsch ausrechnet?
Ich demonstriere den Fehler hier:
https://youtu.be/e1a1iJOeejg
Danke
mir ist klar, dass es Grenzen gibt, weil Zahlen unterschiedlich gespeichert werden. Ich weiß, wie Interger Zahlen, Fließkommazahlen, ... intern in einem Computer abgespeichert werden.
Aber kann mir jemand sagen, warum LibreOffice 1,01-1 richtig rechnet, aber 1,001-1 falsch ausrechnet?
Ich demonstriere den Fehler hier:
https://youtu.be/e1a1iJOeejg
Danke
Zuletzt geändert von Volker_D am So 4. Jun 2023, 10:36, insgesamt 1-mal geändert.
-
- Beiträge: 755
- Registriert: Fr 28. Mär 2014, 10:41
Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?
Hallo Volker,
kann ich nicht bestätigen, siehe Screenshot.
Vielleicht in der Zellformatierung mal die Anzahl der Nachkommastellen erhöhen oder die Angabe dort löschen.
Gruß
Freischreiber
kann ich nicht bestätigen, siehe Screenshot.
Vielleicht in der Zellformatierung mal die Anzahl der Nachkommastellen erhöhen oder die Angabe dort löschen.
Gruß
Freischreiber
Freischreiber nutzt seit 6/2023 LibreOffice Version: 7.2.7.2 (x64) unter Windows 10 und SplitDB mit HSQL 2.7.2.
Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?
Das habe ich gemacht. Guck dir mal das Video an. Ich habe mir 20 Nachkommastellen anzeigen lassen und das Ergebis ist total falsch. Ich vermute, dass er das Ergebnis sich nicht als Fließkommazahl merkt, sondern als Interger speichert. Was aber eigentlich komisch ist, da es sich bei der Rechnung um zwei Gleitkommazahlen handelt.
Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?
Nachtrag: Angeblich kommt dort 0,0099999999999989 raus. Das muss ein Umrechnungsfehler von Gleitkomma auf Integer sein. Mir ist nur nicht klar, warum das nicht schon bei 1,01 - 1 passiert. Dort müsste es ja zum gleichen Problem kommen.
Das ist gerade das Tückische dran: Mal ja, mal nein. Daher bitte immer Vorsorge treffen, falls es auf absolute Genauigkeit ankommt. Z.B. yVERGLEICH und yVERWEIS nur mit gerundeten Such- UND Suchbereichs-Gleitkommazahlen durchführen. Hinweis für die, die sich nicht mit DatumZeit-Werten in Tabellenkalkulationen auskennen: Eine Zeit ist ein Bruchteil von 1, also eine Gleitkommazahl. Daher auch dort runden. y steht hier übrigens als Variable für [nichts], S, H und X.
MfG Lupo - xxcl.de Win10ProLO6062
Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?
Hallo,
wenn du dir die Binärdarstellungen von 0,001 und 0,01 ansiehst (die ja periodisch sind und daher irgendwann abgeschnitten werden müssen), ahnst du worin das Problem steckt.
wenn du dir die Binärdarstellungen von 0,001 und 0,01 ansiehst (die ja periodisch sind und daher irgendwann abgeschnitten werden müssen), ahnst du worin das Problem steckt.
Zuletzt geändert von mikele am Sa 3. Jun 2023, 18:11, insgesamt 1-mal geändert.
Gruß,
mikele
mikele
Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?
Danke. Die Binärdarstellung ist mir bekann. Aber das Problem müsste ja schon 1,01 - 1 und bei 1,1 -1 auftreten. Warum tritt es also dort nicht auf?
Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?
Kann ich unter LibreOffice den Datentyp casten/festlegen?
Nach welchen Regeln ändert LibreOffice den Datentyp. Ich erkenne nicht die Regel. Es scheint mir etwas "willkürlich" die Datentypen zu wechseln.
Nach welchen Regeln ändert LibreOffice den Datentyp. Ich erkenne nicht die Regel. Es scheint mir etwas "willkürlich" die Datentypen zu wechseln.
Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?
Hallo,
die Abweichungen sind nicht gleich. Es ist ja binär nicht so, dass sich einfach die Kommastelle verschiebt (wie in der Dezimaldarstellung).
Intern ist es immer derselbe Typ, nur die Darstellung ist eine andere.
die Abweichungen sind nicht gleich. Es ist ja binär nicht so, dass sich einfach die Kommastelle verschiebt (wie in der Dezimaldarstellung).
Intern ist es immer derselbe Typ, nur die Darstellung ist eine andere.
Gruß,
mikele
mikele
Re: Warum kann LibreOffice nicht 1,001 -1 ausrechenen?
Hallo
Calc kennt exakt zwei Datentypen: Text ( ist hier im Kontext irrelevant ) und 64bit Gleitkommazahlen, (ca. 14 signifikante Dezimalstellen ) es wird also nix gecastet zwischen Integer und Float. Punkt.
und falls du dich weiterhin echauffieren möchtest über diese ungeheuerliche Ungenauigkeit … mit der 14 Dezimalstelle von PI kannst du den Erdumfang auf 4µm genau berechnen. https://de.wikipedia.org/wiki/Kreiszahl
Calc kennt exakt zwei Datentypen: Text ( ist hier im Kontext irrelevant ) und 64bit Gleitkommazahlen, (ca. 14 signifikante Dezimalstellen ) es wird also nix gecastet zwischen Integer und Float. Punkt.
und falls du dich weiterhin echauffieren möchtest über diese ungeheuerliche Ungenauigkeit … mit der 14 Dezimalstelle von PI kannst du den Erdumfang auf 4µm genau berechnen. https://de.wikipedia.org/wiki/Kreiszahl
LO7.4.7.2 debian 12(bookworm) auf Raspberry4b 8GB (64bit)
LO7.6.3.2 flatpak debian 12(bookworm) auf Raspberry4b 8GB (64bit)
LO7.6.3.2 flatpak debian 12(bookworm) auf Raspberry4b 8GB (64bit)
An alle, die das LibreOffice-Forum nutzen:
Bitte beteiligen Sie sich mit 7 Euro pro Monat und helfen uns bei unserem Budget für das Jahr 2024.
Einfach per Kreditkarte oder PayPal.
Als Dankeschön werden Sie im Forum als LO-SUPPORTER gekennzeichnet.
❤️ Vielen lieben Dank für Ihre Unterstützung ❤️