Re: [請益] 想從零開始轉行當AI軟體工程師

作者: stmilk (我男的)   2021-11-10 14:08:19
來用自己的例子勸退一些想跳機器學習的人
首先是數學程度,
我是數學系的,什麼線代,微積分,機率,統計的都很熟其實工作也會用到,
描述一些比較有印象的工作用過的數學,
比較有趣關於微積分的經驗:
老闆把問題用一個式子 exp(-rx)*((1/delta)*sqrt(A))*exp(-x^2/(A))來解釋,
並要對x積整個實數範圍。
在場大家都面面相覷我就被要求積了。
但這其實不難積,就高斯積分,有背整理一下秒解,
沒背也不難推。我大學微積分沒在背的所以是當場直接推,然後才繼續那場會議。
機率統計就那些常見的像是:
在一堆數據中給一些想法假設然後檢定,
或是想辦法對一直變動pattern的資料去建對應的機率模型。
但我具體數學程度到哪,舉兩個例子一個是深度學習WGAN一個是經典的random forest。
https://arxiv.org/pdf/1701.07875.pdf 這是WGAN。
https://link.springer.com/article/10.1023/A:1010933404324 這是RF。
基本上裡面的純數推導我幾乎都理解,
WGAN用到實分析跟線性規劃,
RF則是機率。
以上大概描述一下我的數學程度。
接著是我的電腦技能,
我熟悉的語言有C++跟PYTHON,基本上各有兩年以上的工作實務經驗。
python就絕大部份公司機器學習用的語言不解釋。
C++曾被公司要求所有演算法都要自己刻,這之中還包刮神經網路,
連 backpropagation 都要自己刻,
然後資料結構演算法,計算機組織,作業系統都讀過。
至於程度到哪我也不好說,我自知去參加程式比賽會被電死,但基本程度應該是有。
資料結構的程度至少是在刷題的時候不會卡在"天啊這個是什麼資料結構",
跟曾經在工作被要求刻了一個紅黑樹,雖然我現在忘了而且skip list太好用。
演算法就刷題的時候不會無止境一直設條件,
會嘗試用一些演算法想法比如 divide and conquer or dp 來解題。
計組作業系統就是那些什麼cpu pipeline 記憶體管理緩存設計都懂。
資料庫則是公司用什麼我就學什麼。
機器學習的部分就是幾乎現在大家喊得出名字的我都可以實作,
有要證明的模型我都可以證明,不過需要回憶準備一下哈哈因為模型太多沒全記。
大致用書來表示一下我懂得大概範圍好了。
https://www.deeplearningbook.org/
deep learning 的經典不解釋。
http://www.cs.cmu.edu/~tom/mlbook.html
machine learning 也算經典但很老的一本了。
https://www.tenlong.com.tw/products/9787302275954
各種經典的機器學習模型的推導書,雖然這個作者幾乎只是翻譯論文,但翻的還滿好的。
新技術太多我就不提了我都有在追。
以上大致描述一下我的程度,目前的結果是我近半年完全找不到工作XD
不管國內國外,丟履歷都沒回覆,基本上連面試機會都沒有。
搞得現在只能送foodpanda,
真的是能力不足阿...
希望這慘痛的經歷能拯救還想再跳AI的人阿。
==================================================
發現太多人執著實作的部分,其實要求手刻的只有一家公司,雖然我也在那邊做很久
除了那間公司其他的我也是用包啦,Tensorflow,cntk 之類的都會用。
作者: jobintan (Robin Artemstein)   2021-11-10 14:18:00
大佬可以考慮下轉SDE了………………………………………
作者: billchen123 (ggyy)   2021-11-10 14:21:00
祝原PO找到工作
作者: longlyeagle (長鷹寶寶實驗室)   2021-11-10 14:23:00
是不是CV寫太爛了?
作者: qwe70302 (為何一到90分就會輸)   2021-11-10 14:29:00
比起外送,不如先找個web後端蹲一下,雖然月薪七八萬可能比不上資料處理十幾萬~
作者: j0958322080 (Tidus)   2021-11-10 14:38:00
那個積分做配方後還是高司積分,不過面面相覷也太慘
作者: devilkool (對貓毛過敏的貓控)   2021-11-10 14:51:00
咦...原本的公司是倒了嗎?
作者: GameGyu (GameGyu)   2021-11-10 15:00:00
比較好奇 你台灣投那些公司?
作者: stmilk (我男的)   2021-11-10 15:01:00
沒有只投百萬的啦,雖然我最後一份工作是有破百基本上看到覺得符合就丟了
作者: empliu (善惡相殺)   2021-11-10 15:05:00
冒昧問一下原po學歷?據我所了解的台灣有招比較多AI的 內部幾乎都是台清交
作者: stmilk (我男的)   2021-11-10 15:06:00
只有數學學士還不是四大哈哈,所以上述的東西全部都是自修
作者: DrTech (竹科管理處網軍研發人員)   2021-11-10 15:06:00
不懷疑能力,但方法很沒效率吧,手刻技術演算法或數學很厲害,實務上根本沒必要。
作者: empliu (善惡相殺)   2021-11-10 15:07:00
或者有相關會議 publication
作者: DrTech (竹科管理處網軍研發人員)   2021-11-10 15:07:00
而且實務上,你數學再強也輸給爛資料。
作者: isaacting (2312312)   2021-11-10 15:09:00
要自己刻bp?! 是在gpu上實作嗎如果是要在cpu上刻BP, 為何不用現成library ?!
作者: DrTech (竹科管理處網軍研發人員)   2021-11-10 15:12:00
"要證明的模型我都可以證明,不過需要回憶準備一下",這句話看起來很強,實際上面試大廠也是不合格的。李航那本書很多人在背喔,某些職缺的基本功而已。
作者: stmilk (我男的)   2021-11-10 15:17:00
痾.....我沒說這些東西很難啊= =
作者: DrTech (竹科管理處網軍研發人員)   2021-11-10 15:18:00
原文這種做法,真的不如好好學 TF或 keras範例,還比較好找工作。
作者: empliu (善惡相殺)   2021-11-10 15:20:00
D的意思不是這些東西難易度的問題是在跟你說面試就是不太能有"回憶準備一下"這種情況
作者: DrTech (竹科管理處網軍研發人員)   2021-11-10 15:20:00
這跟能力無關而是市場選擇問題。
作者: DrTech (竹科管理處網軍研發人員)   2021-11-10 15:26:00
非懷疑我原文能力,只是原文選擇的技術展示方式,是台灣工作的小量市場。
作者: yoshonabee (我右手拿筆如神一般)   2021-11-10 15:43:00
感覺可以找想進的公司,然後去LinkedIn找員工內推,這樣到面試關的機會應該會大一點
作者: stmilk (我男的)   2021-11-10 15:45:00
疑這招我沒想過耶,我來試試感謝你~~
作者: DiscreteMath (離散數學)   2021-11-10 16:24:00
完全可以理解手刻c++甚至bp的需求xD其實現有套件很多c++ backend還是太慢 尤其只能用cpu的情況 要不然就是包台大 不好用 懂原理還是怒刻一波最快包太大*蠻羨佩服大大的技能組欸 不考慮往遊戲引擎或底層走嗎 業務而非效能技術導向的工作可能真的不好上QQ
作者: johny777 (阿雞雞 )   2021-11-10 16:46:00
業界比較care model compression
作者: Findagreen (天母克魯蛇)   2021-11-10 17:17:00
靠背有夠強 你應該是找不到滿意的不是找不到吧
作者: bochengchen (LFII)   2021-11-10 17:30:00
感覺同上
作者: min86615 (minshang)   2021-11-10 17:43:00
有比賽經驗嗎?還有github上面都放什麼專案,可以把Sideproject放上去,如果真的要找研究缺大部分還是需要PhD會找一些有其他背景的人,我覺得有一篇回覆挺好的,在台灣AI是加分項是工具。當然要做圖神經網路就得另外探討了
作者: libitum (libitum)   2021-11-10 18:15:00
感覺你興趣的缺 都是給phd比較多的 實務上你不找方式呈現連面試都沒有也不太意外但你又有幾年經歷 完全沒面試也沒headhunter找也太離奇針對jd上得去準備吧 不然很容易準備方向偏離市場需求找幾個現在有在徵才 你理想的職缺來看看?
作者: stmilk (我男的)   2021-11-10 18:26:00
其實原因有在分析,只是我本來覺得沒這麼扯,但看起來是最主要的問題還是缺太少,其他缺就是工程師缺。跟機器學習有關的就是build model。啊我的經歷有興趣請站內。我是覺得會離題哈哈這篇主要是不要在跳AI,因為可能會徒勞無功。不如還是老實
作者: libitum (libitum)   2021-11-10 18:36:00
其實你整篇提到理論會的部分 找不到面試不太意外
作者: stmilk (我男的)   2021-11-10 18:36:00
點高SDE的技能,然後多點個distribution system的技能還比較實際
作者: shan31613   2021-11-10 18:50:00
純研究的缺沒有正統學經歷連面試機會都沒有,建議還是朝RD(fw or sw)裡DL應用的缺找看看,應該有機會,加油
作者: golang (Gopher)   2021-11-10 18:52:00
推文裡面看到kaggle排斥那段心態上建議也調整一下
作者: s910 (s910)   2021-11-10 18:59:00
應該是學歷爛吧
作者: james732 (好人超)   2021-11-10 19:00:00
看起來實力超強的說QQ
作者: a27417332 (等號卡比)   2021-11-10 19:08:00
推這種追根究柢的精神,但這方面感覺不好走QQ
作者: MoonCode (MoonCode)   2021-11-10 19:18:00
感覺很厲害耶 是不是自己做產品當老闆比較快
作者: bill1992 (我是魔法的蹤跡)   2021-11-10 19:21:00
真的都懂應該機會很多吧
作者: Findagreen (天母克魯蛇)   2021-11-10 19:28:00
原po484不會寫履歷.. 找人幫你寫應該面試收到手軟
作者: kiwi946946 (kiwi)   2021-11-10 19:56:00
我覺的你超強,但適合你的缺在ML中也是最為搶手的存在,你的競爭者學歷肯定比你厲害,不知你有沒有試著數據化你的數學能力,讓面試官看到你的產能比方說你舉的雜訊很多那個例子,你可以說一般調包的出來是正確率A,但你用啥數學方法,把正確率提升到B,總提升B-A,多量化你數學能力的貢獻
作者: ManOfSteel (Man Of Steel)   2021-11-10 20:25:00
感覺原po很強阿!幫推
作者: everglow (jm)   2021-11-10 21:10:00
稍微看一下你在板上的文章 感覺你的gap year才是致命傷
作者: jcaosola (紙袋)   2021-11-10 21:14:00
你有競賽網站的積分之類來量化技術能力的紀錄嗎?
作者: solitude6060   2021-11-10 21:26:00
身為完整看過WGan論文然後現職是相關領域的人,我相信原po 是有能力的。但不是每個人資或是主管都有能力判別,所以是不是其實撥點念書的時間去打比賽或是充實github會比較容易讓人一眼看出你的能力?
作者: DrTech (竹科管理處網軍研發人員)   2021-11-10 21:27:00
不是履歷的問題啦,研發職缺,原文有相關學歷或論文嗎?沒有直接過濾,很現實。開發職缺,需要一直算數學的技能嗎?不需要也沒加分。
作者: viper9709 (阿達)   2021-11-10 21:29:00
推~這也太扯,這種能力去送foodpanda...
作者: ManOfSteel (Man Of Steel)   2021-11-10 21:33:00
真der。看完之後我心裡會想:我才是那個該去送foodpanda der人想誘我轉職foodpanda,嘖嘖
作者: caseypie (期待未來)   2021-11-10 22:30:00
你搞錯了,根本不需要懂原理,反正現在都是調包調參而已一堆公司面試時狂問CNN RNN LSTM Transformer進去以後不是random forest就是xgboost,更難的根本沒用重點是如何證明你懂實際業務上的問題並且迅速設計模型想走演算法設計只能去deepmind那類機構,但得有paper
作者: yoshonabee (我右手拿筆如神一般)   2021-11-10 22:35:00
我覺得懂原理還是有優勢的,大概就是普通台廠跟一線外商的差別
作者: final01 (牛頓運動定律)   2021-11-10 22:43:00
你的問題應該是嘴泡能力大於技術...
作者: paint (有斑紋的馬)   2021-11-10 22:46:00
找工作跟面試 就我的觀察是 能力 運氣 與相性的結果 祝順利
作者: lukelove (午睡)   2021-11-10 22:59:00
要馬打比賽 要馬發paper 要馬leetcode 要馬side project, 版友說的沒錯, 你的問題就是你認同的東西在別人眼裡是嘴裡
作者: ericrobin   2021-11-10 23:09:00
把時間浪費在寫紅黑樹跟基本DNN找不到工作剛好而已= =而且八成大概是在簡歷關就在學歷部分被刪掉了
作者: mmonkeyboyy (great)   2021-11-10 23:35:00
就 不管是不是人才 別人不需要也沒用啊
作者: stmilk (我男的)   2021-11-10 23:38:00
樓上你說的沒錯,所以我看很開哈哈哈,生命要另尋出路
作者: fr75 (阿巴 )   2021-11-10 23:57:00
這種找國外遠端還比較有機會 大家都說了台灣的職位只要你用library不用懂那麽深啦
作者: yagerbomb (ㄅD)   2021-11-11 00:35:00
學歷太爛+只會嘴砲吧。你可能實力真的不錯但沒有強到能突破學歷限制台灣AI缺都台清交電資碩,尤其很多AI跟硬體相關的特別多,有學歷要找的話輕鬆多了
作者: stmilk (我男的)   2021-11-11 00:48:00
就算我真的在嘴砲好了,假設我說的程度只有我寫的四分之一,也就是數學只會微積分,電腦技能只會寫python迴圈然後只會套模型調參,機器學習只會李航的那本但只到聽過的等級,結果還是我後半生會失業也賺不到錢,結論還是不衝突啊,你們到底在執著什麼我不懂=_=
作者: Hsins (翔)   2021-11-11 00:51:00
幫補血, 老實說李航那本我不認為看完對於找 AI 職缺有什麼幫助...另外, "線代、微積分、機率、統計都很熟, 工作也會用到"但你給的例子卻不太像是日常工作會被 "應用" 的問題...我能理解工作中會應用到這些數學概念的情境, 但很少會是證明或是求出解析解的方式呈現, 通常比較像是將問題抽象化簡?
作者: shomingchang ( )   2021-11-11 01:14:00
貴圈真的有夠內卷的。。
作者: mmonkeyboyy (great)   2021-11-11 04:43:00
雖然我不知道為什麼要欺負做數值的很多做減模型的....都跟數學沒啥關的啊很多AI公司都要這種人 薪水$200k起跳哦更別提那一堆做data的
作者: caseypie (期待未來)   2021-11-11 05:14:00
工作很簡單,但錢並沒有不多,主要是marketing的問題要有把ML和公司業務結合的能力,這並沒有那麼簡單
作者: mmonkeyboyy (great)   2021-11-11 05:19:00
其實很多AI公司都不太賺錢的XD
作者: viper9709 (阿達)   2021-11-11 17:41:00
推原po重心根本不在自身上+1~推文整個歪樓了XD
作者: hahaxd78 (HAHA)   2021-11-11 20:34:00
推一個。想請教一般ML不平衡分類模型,變數也都很稀疏情況下,除了up sampling跟套class weights外,有更創意的做法嗎?
作者: tkigood (提谷德)   2021-11-11 22:44:00
所以其實講白了 就是前面講爛了的 "AI這職缺在台灣""擁有碩博士學位只是基本門票" 非本科轉行或學士根本是連你有多強都不想看 我相信有看的話 不會一點機會都沒有但是都是直接 "蛤? 學士? 還不是本科 直接PASS吧"
作者: x3795566 (恬靜與快樂)   2021-11-12 00:36:00
你有投MTK嗎? 我能力搞不好沒有你十分之一 沒被考什麼就上了..
作者: stmilk (我男的)   2021-11-12 00:41:00
大廠我連履歷有沒有被已讀都不知道哈哈哈哈
作者: NTUmaki (西木野真姬)   2021-11-12 08:12:00
MTK不收學士吧
作者: hahaxd78 (HAHA)   2021-11-12 21:41:00
謝謝分享
作者: hsiaoeddie (eddie)   2021-11-13 01:55:00
可是我非本科四大理工碩找演算法相關的職缺還是一堆人來找我欸 只能説原po時運不濟
作者: stmilk (我男的)   2021-11-13 15:11:00
其實沒關係啦我看很開,因為是我自己喜歡做的事,然後現在放棄在台灣掙扎要出國去唸書了哈哈哈就一邊foodpanda一邊刷題一邊找代辦了
作者: pjwck (pjwck)   2021-11-15 19:33:00
數學系學士沒有經營Github或展示你實力的方法的話,就會變成都是空口說白話,通常會更願意找頂大碩士CS來面試吧?只針對沒拿到面試回一下會不會是這個原因
作者: stmilk (我男的)   2021-11-15 22:40:00
應該單純是實力不足
作者: pjwck (pjwck)   2021-11-16 01:20:00
不是這些原因的話,應該真的是實力不好了
作者: alksjdf (Loop)   2021-11-16 20:26:00
原po真的強,我是四大非本科跳AI的 個人感覺AI缺比去年很多了,但感覺你是想找純做AI演算法的 台灣真的比較少就連外商的AI缺都需要data engineer/software engineer技能
作者: KAOKAOKAO (鬼斗)   2021-11-18 11:51:00
看到最後一段下巴都掉了 祝原PO海外求學順利
作者: Kinchtwck (EEEEEEEEric)   2021-11-19 01:07:00
HR說還行你就信?感覺就是CV亂寫一通,面試沒準備到重點,也沒有connection,不過你想要的工作內容,也只有deepmind/google research/Microsoft research 或是其他以研究為主的地方才比較適合,但這些地方超難進
作者: leviathen (GO BLUE!)   2021-12-09 12:39:00
有E2E deployment經驗還是最重要,理論在強,無法商品化的模型就是沒用

Links booklink

Contact Us: admin [ a t ] ucptt.com