1. PTT
  2. Python

[問題] python 精準度問題

作者: sb710031 (@@)   2015-02-11 14:31:25
因為需要高精度的運算 所以我查到了 decimal 這個物件
可是我照著用 卻沒有效果 不知是什麼問題 @@
http://ppt.cc/sqDa
可以看的到 紅色的部分就不一樣了
謝謝
作者: mikapauli (桜花)   2015-02-11 15:58:00
你輸入的是float，改用string就好
作者: duncanusn (一個絕地男)   2015-02-11 17:53:00
最近也遇到高精度運算問題~~decimal(str(...))
作者: timTan (用口頭禪區分年記)   2015-02-12 19:13:00
x = decimal.Decimal('7.354823617778974389274981374')上面那樣的形式才對
繼續閱讀
Re: [問題]scrapy如何把抓到的資料存成這樣格式? allen511081[問題]scrapy如何把抓到的資料存成這樣格式? allen511081[問題] 從 host 持續傳訊息到 htmlgn00618777[閒聊] 對於新手～kevindump[問題] 請問python做資料分析的書籍cookie1226[問題] Pandas & Numpy 的安裝方式(64bit)cal0712[問題] 關於.whl檔的安裝cal0712[問題] 請教cmd的問題(添加我的目標)Dong0129[心得] Python Tools for Visual Studio (PTVS)ccwang002[問題] Fibonacci 範例EijiHoba

Links booklink

Contact Us: admin [ a t ] ucptt.com