[算表] VBA數字比大小問題

作者: jamhuang (扣武桑)   2016-06-16 08:58:28
軟體:EXCEL
版本:2010
直接附圖
http://i.imgur.com/HTOLN3I.jpg
為啥1000會大於1000啊@@
是跟資料的類型有關嗎?
C是double
D是intenger
所以C會有未知的小數點跑出來這樣嗎@@
有請大大開示
作者: soyoso (我是耀宗)   2016-06-16 09:25:00
應是浮點數問題,可設msgbox c-dhttps://imgur.com/tkL2Wlt如取整數,可將變數c宣告為integer或long或以int(取整數)、round(四捨六入)、worksheetfunction.round(四捨五入)宣告為integer或long如遇小數位,進位方式同上述rounddouble類型的資料不一定都會有小數位的出現例如宣告變數c為double,指定為值1000時,就無小數位https://imgur.com/rW6JTLm無宣告時,如有小數位時vba則會判斷為double測試上可加上msgbox ab=2.4,會看到這裡已產生浮點數錯誤https://imgur.com/cm4tcwV不正確的結果,就從此處產生

Links booklink

Contact Us: admin [ a t ] ucptt.com