[家教] PyTorch Seq2seq 協助檢查模型(已徵到)

作者: b90022790 (柚子拉拉)   2022-05-07 00:48:56
1.對象: 大三資工系男生
2.地點: 線上
3.科目:協助檢查 PyTorch 基礎 ImageCaptioning Seq2Seq 模型是否有出錯
4.上課時間:週五六日一二三晚上皆可,預估需要2~3小時,視狀況而定
5.時薪:800,可再議
6.條件:熟悉 PyTorch,有 Seq2Seq 訓練經驗尤佳
7.聯絡方式:站內信
8.附註:
基本上出問題的是Image Captioning實驗裡最基礎的 baseline model 無法收斂
是很簡單、不超過10層的 model,但是因為剛接觸 PyTorch,所以不確定哪裡可能出狀況
希望您能夠協助我檢查模型建立、訓練過程
不過不用擔心沒接觸過Image Captioning,因為就只是基本的Seq2seq模型而已
有意者請站內信簡述曾實做過的 PyTorch model,謝謝!
作者: yiche (你若安好,便是晴天)   2022-05-07 10:41:00
是cross entropy loss 沒有minimize嗎
作者: jamfly (jamfly)   2022-05-07 12:12:00
有時候是data 沒處理好 可以依序檢查 1. data 是不是你想要的樣子 2. gradient 3. 其他參數的調整 e.g., learningrate / batch size 4. 檢查你的每層 model 的 output 5.optimizer
作者: LeFilsDuVent (Le Fils Du Vent)   2022-05-07 12:44:00
SGD換ADAM常常就可以逃出局部低窪區
作者: snow10725 (今天天氣不錯)   2022-05-07 14:14:00
推文讓人趁機筆記

Links booklink

Contact Us: admin [ a t ] ucptt.com