我如果重生回到大一 如果是念成大資工的話 有兩種路線
1.攻略路線1
把妹把到大四 成績找涼課修 晚上去夜市吃吃喝喝和打籃球 騎機車去山上看日出
到處玩耍 大三找專題教授 大四推甄 碩士去台交找mtk保證班
然後工作當社畜 結婚 買房 上批踢踢刷存在感 沒了
====================================================================
2.攻略路線2
目標國外 練技能 先刷這些題目 https://github.com/rasbt/LLMs-from-scratch
多模態 https://github.com/haotian-liu/LLaVA
然後找實驗室有A100 透過上面刷的題目 找些自己擅長的題目 刷HF冷門leaderboard
找不需要太多資源的項目來刷 練HuggingFace API和Pytorch 以下都是不需要大資源
(如果實驗室沒A100 用學校email去註冊Lightning AI網站 那每月免費送A100一些算力)
I.語音
https://huggingface.co/spaces/hf-audio/open_asr_leaderboard
只要能刷到上榜 上傳自己架構 把這個寄給Nvidia Nemo Team 找實習 一定能上
比方說 最簡單去刷的題目就是拿SSM 照者Whisper架構重改一次 寫好上傳HuggingFace
細節參照這 https://huggingface.co/espnet/owsm_v3
上面題目理論上一個人單幹應該可以看得出來
II.刷on-device 小型 LLM 設計 (1B)
參照TinyLLMA設計
https://huggingface.co/TinyLlama/TinyLlama-1.1B-Chat-v1.0
只要8~16顆A100就可以去刷 (成大不至於連一個8顆A100都沒有吧...)
刷完之後 上傳模型到HF 然後寄履歷到果家on-device team找實習
III.Fine-Tune VQA系列
設計細節參照 https://github.com/haotian-liu/LLaVA
用上面這個去設計一個DoCVQA 然後你就可以去Adobe PDF team實習
這年頭網路資料很多 你只要找個實驗室有A100就好 替他們打打工
刷ICASSP/ACL Finding/ICMI 就好 其他AAAI/CVPR/ICML/NerurIPS強烈不建議刷
刷那個會魔怔 雖然我還真看到有幾個小大一自己刷出那些鬼玩意...
================================================================
我強烈推薦路線1 \@n@/ 路線2很難走 容易卡關 到最後都要等價交換 用健康和家庭交換
路線2-I刷完 碩士去台大找李宏毅或者台大尤達 他應該可以把你弄到MIT去 然後去國外前
快交個女友 不然容易單身到死............