1. PTT
  2. C_Sharp

[問題] 乘法溢位問題

作者: wugymcu (Michael)   2016-08-26 22:31:10
我今天把0.05*423
結果等於21.150000000000002
而不是21.15
請問各位大神為什麼會有這個問題？
另外我現在是土法煉鋼的使用Math.Round()解決，
請問有更正確的做法嗎？
感恩
作者: testPtt (測試)   2016-08-26 22:47:00
我試了沒問題
作者: james732 (好人超)   2016-08-26 23:38:00
或許可以查一下IEEE754
作者: wezmag (wezmag)   2016-08-27 00:25:00
用decimal
作者: O187 (187cm)   2016-08-27 11:24:00
用double或float都會有誤差
繼續閱讀
[問題] C# UI設計一問jackwei0117[問題] 關於Lambda語法areyo[問題] 如何修改檔案內容的詳細資訊HCatPTT[問題] 控制項FileUpload的問題kisha024Re: [問題] CssClass 和 classLaluth[問題] 請教asp.net的觀念skitty[問題] CssClass 和 classkisha024[問題] C# ++運算子ts00139161[問題] 請教安裝程式結束後，顯示訊息areyo[問題] 徵求 Necrobot(Pokemon Go) 原始碼bear0729

Links booklink

Contact Us: admin [ a t ] ucptt.com