[理工] 計組 FP accuracy shan830609 PTT批踢踢實業坊

[理工] 計組 FP accuracy

作者: shan830609 (茶裏王) 2016-02-16 19:33:32

如圖
想請問一下
為什麼在算accuracy的時候要把hidden 1的那一個bit考慮進去
而不是只考慮mantissa的bits就好？
資質愚鈍還請神手救救我了QQ
http://i.imgur.com/6oQ4hKj.jpg
覺得我沒有把問題講清楚…
是想問為什麼不會是(23-10)/10
而是像解答的(24-11)/11

作者: makemyday (make my day) 2016-02-17 22:08:00

因為precision是mantissa+hidden 1 個bits http://0rz.tw/XjArB 有大概講到

繼續閱讀

[理工] 105 交大計系 jack34066 [理工] 105交大資演sjeemb [理工] 104台聯電子負回授dirma [理工] 102 台科計概f422661 [理工] 104台聯電子學goddbird Re: [理工] 104台大資工數學10,11求解/15/2016 21:5WES2163818 [理工] [自控]波德圖判斷jackct [理工] 104 台科資結chadcoco1222 [理工] Hazard的疑問noel19447 [理工] 104成大電通甲資結jack34066