Re: [請益] 顯示卡3060 12g 跑深度學習 問題請益

作者: pfii1997119 (阿寬)   2023-03-19 21:49:49
※ 引述《pfii1997119 ( )》之銘言:
: 不好意思打擾各位 爬了許多文章但還是有點隔靴搔癢的感覺
: 我想要組一台深度學習的電腦 (NLP相關)
不好意思 我是原PO 當初的文章沒有寫得很清楚
非常謝謝各位願意花時間看完我的文章並在下面給我的留言以及建議
每條留言我都有看 非常感謝留言的各位!
以下我就先Po出菜單 下面再解釋一下我目前的狀況
CPU (中央處理器):Intel i5-13600K, $10200
MB (主機板):技嘉 Z690 AORUS ELITE AX DDR4, $6990
RAM (記憶體):十銓 T-Force Vulcan Z 32GB(雙通16GB*2) DDR4-3600/CL18, $2299
VGA (顯示卡):↓
目前想法是3060 12g (品牌不限)
買全新會去德源 (感謝板友留言推薦) or 徵二手
或是各位根據我的狀況再幫我推薦一下 非常感謝你們
Cooler (散熱器):Scythe 虎徹3(SCKTT-3000), $990
SSD (固態硬碟):美光Micron Crucial P5 Plus 1TB
M.2 PCIe 2280/讀:6600M/寫:5000M/3D TLC顆粒/五年, $2499 (藝人店)
HDD (硬碟):暫無
PSU (電源供應器):
全漢 CST130 Basic 黑 /壓克力透側/M-ATX
+ 全漢 HYDRO GSM PRO 650W/金牌電源, $2890
CHASSIS (機殼):↑ (與電供搭配)
MONITOR (螢幕):沿用
Mouse/KB (鼠鍵):沿用
OS (作業系統):沿用
不含顯示卡價格: 26219
備註:
我目前是就讀德國的研究所 碩二 第四學期 課都修完了 剩下論文
但因為家人生病的關係 所以這決定這學期待在台灣寫論文
有跟教授協調好 我遠端寫論文並固定幾周時間跟教授在線上meeting
寫完之後再回去德國口試這樣
教授人還蠻好的 說題目自己定
他的專長是NLP方面的 如果真的想不到可以找他拿題目
我自己修他的課也覺得NLP還算有趣 所以這陣子會再看論文多多鑽研一下
因為沒有教授或是研究所的資源
現在有兩個方向可以選擇 第一個就是選擇google colab pro月租
第二個選擇就是自組一台電腦 寫完論文之後也會繼續使用
自己是傾向第二個 可能寫完論文後會把顯示卡賣掉 其他部分就照常繼續使用 當文書機
如果板友有用過google colab pro的心得也很歡迎跟我說
我還在這兩個選項中猶豫
目前的預算大概就是30k左右 可以小爆 希望組完之後可以繼續使用五年以上
如果有更好的選擇 或是什麼建議都很歡迎底下留言
很謝謝電蝦板友的各位幫助 大感謝!
作者: tomsawyer (安安)   2023-03-19 21:58:00
聽說colab pro是p100/v100/a100
作者: yenchieh1102 (香蕉史塔克)   2023-03-19 22:00:00
colab看起來不吃自有電腦資源,你要不要直接用看看,體驗不好就是實體顯卡了你應該先做看看你的實驗用的資源是CPU多還是GPU現在應該多是吃GPU,那其實CPU跟主板拿12400+B板也夠用了,$$all in顯卡,平行運算的爽感無法言喻
作者: otosaka (學生會長我老婆啦)   2023-03-19 22:12:00
這板子根本塞不進去這個殼…
作者: jasn4560 (jasn4560)   2023-03-19 22:12:00
原價屋的P5plus不知道再貴幾點的
作者: trywish (一一二)   2023-03-19 22:13:00
3060不算難找的卡,去問問有沒朋友讓你跑看看。如果真的很吃顯卡,3060的效能應該會跑到無奈
作者: otosaka (學生會長我老婆啦)   2023-03-19 22:16:00
原價屋P5 plus沒降價欸 欣亞都降到$2499了
作者: jen1121 (Old_Hsiao)   2023-03-19 22:18:00
3060還是算了吧
作者: jahnson   2023-03-19 22:20:00
P5 Plus又慢又熱又貴,換ADATA S70 Blade
作者: Transposon (跳死你)   2023-03-19 22:21:00
如果可行kaggle 一週免費蹭30hr的p100
作者: class21535 (滷蛋王)   2023-03-19 22:24:00
原價屋蝦皮P5 Plus有降 用卷會比欣亞便宜
作者: otosaka (學生會長我老婆啦)   2023-03-19 22:25:00
你可以直接同一家店買一買 叫工讀生幫你組裝好送來你的需求是MATX殼?還是其實沒限制只是剛好看到這組便宜C+P?
作者: kkrrooxx (kk)   2023-03-19 22:28:00
先不說為什麼你都在反美光,但我剛好也有S70,這支才是真的熱到爆,一樣待機狀態下系統碟的980pro 1TB已經算熱的也才45度,S70 2TB直接在56-57那邊,拷貝檔案直接衝上72度,看到你喊P5+熱 結果推S70覺得有點…
作者: class21535 (滷蛋王)   2023-03-19 22:28:00
塔散便宜去京東買PA120
作者: dos01 (朵斯01)   2023-03-19 22:34:00
如果你跑的程式不吃CPU的話 要省可以拿12400的組合不過這就要你自己跑過才知道 畢竟我也不知道你在跑什麼
作者: jasn4560 (jasn4560)   2023-03-19 22:34:00
s70/p5plus我是秒選p5 plus啦
作者: leo3258 (leo)   2023-03-19 22:37:00
Z690 AORUS ELITE AX DDR4 6990 罰站屋這張要去海鮮商城配折價卷才划算機殼供電拿組合比較便宜 你選這張至少要atx機殼才裝的下sw300 air 1000p 2022c都有組合價塔扇要雙塔
作者: kkrrooxx (kk)   2023-03-19 22:42:00
之前p5 plus 2tb還要6000的時候去推跳水的S70還能理解,現在兩支幾乎等價 想不出來不選p5 plus的理由,更好笑的是用太熱這個點來打,結果我手上的S70根本熱到爆
作者: Imyrr (宇)   2023-03-19 23:06:00
S70標配送散熱墊,有裝還會熱嗎?這個$2369左右Gen4最便宜
作者: jasn4560 (jasn4560)   2023-03-19 23:13:00
原po挑的主機板 標配散熱墊 還會熱嗎? 同理
作者: kkrrooxx (kk)   2023-03-19 23:18:00
他的散熱墊很小很薄,我用主機板自帶的大散熱片都會熱了,應該是原本他自己主控就是很熱
作者: s1011282 (阿凱)   2023-03-19 23:30:00
3060不推,雖然vram大可以調大batch size,但訓練速度有點慢
作者: bear1414 (story)   2023-03-20 00:04:00
看說明似乎題目都還沒訂?等你有題目方向再決定顯卡規格就好另外,已題目若沒方向就請教授給幾個再選,比較有效率
作者: s78513221 (TERIS)   2023-03-20 00:31:00
之前玩算圖的心得是colab pro給的卡也不是很固定就算買Pro+也只是相對一般會員有優先權而已畢竟Google主力還是GCP的GPU算力或者TPU算力販售
作者: xu3fu6xup6 (輪胎一枚)   2023-03-20 00:44:00
我自己用pro plus 一個月1500台幣的那個,基本上還沒看過a100以外的卡colab有個最大問題是他的cpu極度慢,如果你的模型反而是cpu特化的話那就不推薦使用colab
作者: inthepeace (peace)   2023-03-20 00:45:00
如果要上13600k的話,塔扇要上AG620
作者: timofEE (新人)   2023-03-20 01:42:00
也要看顯示卡支不支援Cuda torch等等版本問題甚至我同學就遇到3090太新跑不了要改用1080ti不過應該要在價錢可以接受的程度盡量拉高等級3090的batch size可以設到8又跑超快同樣的程式在1080ti下就只能設到1在某些緊急的時候真的會差很多尤其論文通常會很緊急的要突然改什麼東西要結果出來
作者: AmigoSin (JohnWall)   2023-03-20 03:25:00
趕碩論的話建議租colab,不要用自己的機器等他慢慢練
作者: yoyo178134 (安安尼瑪)   2023-03-20 04:29:00
Gcp 300塊先用一用 用完再換下一個300
作者: suitup (hey Suit Up!)   2023-03-20 08:05:00
如果預算受限的話3060算唯一選擇了 跑得慢至少比不能跑好
作者: oopFoo (3d)   2023-03-20 09:14:00
現在NLP包含深度學習這塊已經被LLMs disrupted。就像2013年時,傳統電腦CV開始被NN取代。現在業界學界全力轉向LLMs好好重新選擇題目。現在先買3060是個好選擇,跑跑小模型試試東西,真的需要大量訓練的就花小錢買雲端GPU。過個一兩年,也可賣掉3060換更適合的顯卡。最後不需要再賣掉顯卡。顯卡算比較保值。
作者: start928 (我是人)   2023-03-20 09:58:00
之前寫論文也是租了colab 真的好用 反正論文寫幾個月就寫完了 如果之後也沒顯卡需求 很推直接租 比起3060快很多的!
作者: GoGoJoe (gogojoe)   2023-03-20 11:08:00
你真的有看嗎 技嘉這張要配SSD拿 cooler用AG620/PA120
作者: moraz0834 (daan)   2023-03-20 11:35:00
Pro Plus也是都拉到A100
作者: mtc5566 (56不難過)   2023-03-20 19:09:00
技嘉這張主機板拿欣亞搭SSD的組合最划算 塔散用虎徹3不夠 要換PA120
作者: Virness   2023-03-20 22:46:00
colab 52.5花下去了 自己買要調環境速度又比3060快 不會串接問gpt跑出模型再用gcp azure aws去架站
作者: amy79968 (neverdie)   2023-03-20 22:56:00
13600k至少搭個AG620比較夠用 其他會自己組的話沒什麼問題了

Links booklink

Contact Us: admin [ a t ] ucptt.com