BITTE helfen Sie uns HEUTE mit einer SPENDE
Helfen Sie das LibreOffice Forum zu erhalten!

❤️ DANKE >><< DANKE ❤️

> KEINE WERBUNG FÜR REGISTRIERTE BENUTZER!<
Ihre Spende wird für die Deckung der laufenden Kosten sowie den Erhalt und Ausbau 🌱 des LibreOffice Forums verwendet.
🤗 Als Dankeschön werden Sie im Forum als LO-SUPPORTER gekennzeichnet. 🤗

Warum kann LibreOffice nicht 1,001 -1 ausrechnen?

CALC ist die Tabellenkalkulation, die Sie immer wollten.
Volker_D
Beiträge: 47
Registriert: Sa 3. Jun 2023, 16:46

Re: Warum kann LibreOffice nicht 1,001 -1 ausrechnen?

Beitrag von Volker_D » Mi 7. Jun 2023, 18:01

upps... Sorry. Hatte vergessen zu Runden.

0,1 als Binärzahl lautet:
1001100110011001100110011001100110011001100110011010

und Dezimal:
0.1000000000000000055511151231257827021181583404541015625

Es müsste 'eigentlich' mit 20 Nachkommastellen so aussehen:
0.10000000000000000555
Aber das wird so nicht angezeigt.

Volker_D
Beiträge: 47
Registriert: Sa 3. Jun 2023, 16:46

Re: Warum kann LibreOffice nicht 1,001 -1 ausrechnen?

Beitrag von Volker_D » Mi 7. Jun 2023, 21:09

Interessant wird es auch, wenn man sich die Grenzen in LibreOffice Basic anguckt. Da gibt es verschiedene Datentypen.

Unter anderem Currency
Also eigentlich ein Datentyp, der einen vor solch komischen Dingen schützen soll.

Der akzeptiert dann natürlich nicht zu große Zahlen und meckert deshalb auch brav, wenn man folgendes versucht:
REM Überlauf
Dim zahl3 As Currency
zahl3=1000000000000001
MsgBox(zahl3)


Mach man das gleiche aber mit einer Null weniger, dann meckert er nicht, obwohl er sich das Ergebnis gar nicht merken kann.

REM zeigt 100000000000000.9984 an
Dim zahl As Currency
zahl=100000000000001
MsgBox(zahl)


Versucht man das gleiche in Calc, dann ist es kein Problem. Dort wird der Wert richtig angezeigt, auch wenn man das Zellformat auf Währung umstellt. (Weil dort die Zahl wohl immer als double abgespeichert wird.)

An alle, die das LibreOffice-Forum nutzen:


Bitte beteiligen Sie sich mit 7 Euro pro Monat und helfen uns bei unserem Budget für das Jahr 2024.
Einfach per Kreditkarte oder PayPal.
Als Dankeschön werden Sie im Forum als LO-SUPPORTER gekennzeichnet.

❤️ Vielen lieben Dank für Ihre Unterstützung ❤️

Antworten