upps... Sorry. Hatte vergessen zu Runden.
0,1 als Binärzahl lautet:
1001100110011001100110011001100110011001100110011010
und Dezimal:
0.1000000000000000055511151231257827021181583404541015625
Es müsste 'eigentlich' mit 20 Nachkommastellen so aussehen:
0.10000000000000000555
Aber das wird so nicht angezeigt.
🙏 Helfen Sie jetzt mit, unser LibreOffice Forum zu erhalten! 🙏
Mit Ihrer Spende sichern Sie den Fortbestand, den Ausbau und die laufenden Kosten dieses Forums. 🌱
🍀 Jeder Beitrag zählt – vielen Dank für Ihre Unterstützung!🍀
>> Dank Ihrer Unterstützung -> Keine Werbung für alle registrierten LibreOffice-Forum User! <<
🤗 Als Dankeschön werden Sie im Forum als LO-SUPPORTER gekennzeichnet. 🤗
Warum kann LibreOffice nicht 1,001 -1 ausrechnen?
Re: Warum kann LibreOffice nicht 1,001 -1 ausrechnen?
Interessant wird es auch, wenn man sich die Grenzen in LibreOffice Basic anguckt. Da gibt es verschiedene Datentypen.
Unter anderem Currency
Also eigentlich ein Datentyp, der einen vor solch komischen Dingen schützen soll.
Der akzeptiert dann natürlich nicht zu große Zahlen und meckert deshalb auch brav, wenn man folgendes versucht:
REM Überlauf
Dim zahl3 As Currency
zahl3=1000000000000001
MsgBox(zahl3)
Mach man das gleiche aber mit einer Null weniger, dann meckert er nicht, obwohl er sich das Ergebnis gar nicht merken kann.
REM zeigt 100000000000000.9984 an
Dim zahl As Currency
zahl=100000000000001
MsgBox(zahl)
Versucht man das gleiche in Calc, dann ist es kein Problem. Dort wird der Wert richtig angezeigt, auch wenn man das Zellformat auf Währung umstellt. (Weil dort die Zahl wohl immer als double abgespeichert wird.)
Unter anderem Currency
Also eigentlich ein Datentyp, der einen vor solch komischen Dingen schützen soll.
Der akzeptiert dann natürlich nicht zu große Zahlen und meckert deshalb auch brav, wenn man folgendes versucht:
REM Überlauf
Dim zahl3 As Currency
zahl3=1000000000000001
MsgBox(zahl3)
Mach man das gleiche aber mit einer Null weniger, dann meckert er nicht, obwohl er sich das Ergebnis gar nicht merken kann.
REM zeigt 100000000000000.9984 an
Dim zahl As Currency
zahl=100000000000001
MsgBox(zahl)
Versucht man das gleiche in Calc, dann ist es kein Problem. Dort wird der Wert richtig angezeigt, auch wenn man das Zellformat auf Währung umstellt. (Weil dort die Zahl wohl immer als double abgespeichert wird.)
An alle, die das LibreOffice-Forum gern nutzen und unterstützen wollen:
Bitte helfen Sie uns mit 7 Euro pro Monat.
Durch Ihren Beitrag tragen Sie dazu bei, unsere laufenden Kosten für die kommenden Monate zu decken.
Unkompliziert per Kreditkarte oder PayPal.
Als ein kleines Dankeschön werden Sie im LO-Forum als SUPPORTER gekennzeichnet.