[理工] 計組上冊 P.234 ddd23236 PTT批踢踢實業坊

[理工] 計組上冊 P.234

作者: ddd23236 (James) 2017-10-14 14:53:34

請問一下(d)將整數用浮點數表示
為什麼會lose precision ?
http://i.imgur.com/eUaeaqK.jpg

作者: king8313 2017-10-14 15:23:00

把32bit二進位整數先平移成左邊只留下一個1，就會發現你的mantissa可能不夠表示小數點後的位數。應該是這樣

作者: ddd23236 (James) 2017-10-14 15:45:00

了解題目應該寫成...may lose precision比較好xD謝謝king8313

繼續閱讀

[徵求]徵聖經本:資料結構,作業系統,計組,演算法a5204860 [理工] 計組 split cache/combined cache觀念clonsey1314 Re: [理工] 104清大離散分堆Honor1984 [理工] 104清大離散分堆king8313 [離散］［圖論］6-141第81題awilliea [理工] 計組第四章的問題b4824583 [理工] 計組-下冊P.23練習nihonn714 [理工] 離散證明 (0，1)是不可數集sooge [理工] 離散同餘qwer911 [理工] [電磁學]-傳輸線tyo1232000

Contact Us: admin [ a t ] ucptt.com