[閒聊] SONY手機內建計算機支援的位數

作者: jennychuli (神遊自然)   2014-05-02 13:31:59
前幾天用計算機在算 0.693147181 - 0.693147375
算出來的結果居然是 -1.94e-7 ????
當下以為計算機壞了
於是又再按一次,還是出現一樣的結果
後來想想是不是計算位數有限制的關係
於是開始試了很多組數字來計算
12345678901 - 1 = 1.234568e10 (正確值:12345678900)
98765432101 - 1 = 9.876543e10 (正確值:98765432100)
0.123456789 + 1 = 1.12345679 (正確值:1.123456789)
從上面這些看來,似乎超過顯示位數的部分會自動四捨五入?
而且結果顯示的e應該不是指一般的自然數而是代表10的x次方?
看樣子應該是只支援10位數,且小數點也算一位
以上都是新版計算機(白色背景圓形按鍵)算出來的結果
但用舊版計算機(方形按鍵,橫向出現工程模式)計算
12345678901 - 1 = 12345678900
98765432101 - 1 = 98765432100
0.123456789 + 1 = 1.123456789
完全都是正常數值,沒有出現科學記號和自動四捨五入
再試幾個數字發現,舊版支援到12位數,而小數點也算一位
好奇怪喔,居然新版的支援位數比舊版的少??
照理說新的應該要越來越好啊,怎麼反而退步了??
而且新手機螢幕較大,應該也要支援更多位數啊
我的舊手機螢幕直放只能顯示6位數,卻可以計算到12位數
新手機螢幕直放可顯示11位數,卻只能計算到10位數
有人有發現這個奇怪的問題嗎?
作者: magi6049 (麻糬)   2014-05-02 14:31:00
沒問題啊 照你的題目答案是1.94 * 10^-7 是正解無誤少打一個- 是 -1.94 * 10^(-7)沒有你說的四捨五入的情況發生
作者: jennychuli (神遊自然)   2014-05-02 14:41:00
要看第一組數字例子,上面那個確實沒錯例子三個都有四捨五入
作者: jfy (天之子)   2014-05-04 00:20:00
一般的計算機也大多用e來表示10的X次方。
作者: Lumia925 (Lumia)   2014-05-06 02:25:00
躺著算123456789012-1=123456789011 13位就會科學記號了我用的是XPERIA P
作者: jennychuli (神遊自然)   2014-05-06 16:05:00
可能每支的支援位數不同吧…

Links booklink

Contact Us: admin [ a t ] ucptt.com