※ 引述《HumuHumu (呼姆呼姆)》之銘言：
: ※ [本文轉錄自 deeplearning 看板 #1QfakpUB ]
: 作者: HumuHumu (呼姆呼姆) 看板: deeplearning
: 標題: [問題] 跑Keras的model正常GPU使用率會是多少
: 時間: Mon Mar 12 17:43:12 2018
: 我已經重複安裝很多變anaconda cudnn cuda等等了
: 但是我跑keras的model不管怎樣跑起來的速度都還是跟使用CPU跑的速度差不多
: 而且打開工作管理員，GPU使用率都只有7~8%左右
: 請問這樣是有在用GPU跑的嗎??
: 我不管裝幾次都是這種結果 我不知道該怎麼解決他嗚嗚嗚
看了一下你的推文,你用的是Geforce 1080,這種等級的卡,跑個
小ANN(我猜你的ANN,指的是MLP的意思吧?)你期待看到啥GPU使用
率? 1080有2560個cuda core啊. 用10%已經有256個core了.不少
了,如果你是用那種筆電內建的卡,也就2,3百個core的,這已經幾
乎要滿載了.
我的卡是Titan Xp,不要說這種小MLP了,就算是用CNN跑MNIST都是
低於10%. 你真的想燒機,看看GPU使用率狂飆的快感,好歹也要
玩些幾百MB起跳的影像模型,例如VGG16,或VGG19你才看的到1080被
操的不要不要的感覺.
所以玩玩看style-transfer吧,裡面會用到Vgg16,跟Vgg19可以讓
你操卡操到爽:
https://github.com/kevinzakka/style-transfer
* BTW, windows顯示的那個使用率是copy engine的使用率,當你
的GPU記憶體很大的時候,copy自然就會低一點. 你要看GPU的計算
使用率,你應該要看的是compute_0那個欄位.

BTW,而且你的GPU記憶體滿載了,這表示你確實用到GPU了.不過滿載不是因為資料大,而是TF預設都會佔用整顆GPU,避免計算碎片化,你若是用PyTorch,則是要多少才用多少.

讚讚讚

感謝大大解惑，因為我一直覺得運算速度很慢，GPU使用率又低，所以我一直以為我灌錯tensorflow版本

計算量太小，用GPU反而比CPU慢，因為光資料的搬動就花去不少時間了。這很正常。

有gpu使用率就代表有用gpu啊XD 可用nvidia-smi看螢幕應該沒啥影響