各位大大
關於float的精度問題
課本上說float的精度在小數點後六位,也就是說最小可以表示到0.000001(10^-6)
但IEEE754的格式,最小的正數如下
0 00000000 00000000000000000000000
既為1*2^-127
其結果化成10進位為2^-127,比10^-6小那麼多
是我對精度的理解錯了嗎
因為課本上寫是因為IEEE格式小數占了23bit,
2^23=8388608,比10^6還小,但比10^7大
麻煩各位!