https://twitter.com/_jasonwei/status/1760032264120041684
從Google跳槽OpenAI的Jason Wei分享自己在OpenAI的一天：
[9:00am] 起床
[9:30am] 搭乘Waymo前往Mission SF，途中在Tartine買個酪梨吐司
[9:45am] 背誦OpenAI範式。向優化之神致敬。學習《The Bitter Lession》（強化學習之
父Rich Sutton著）
[10:00am] 在Google Meet上開會，討論如何在更多數據上訓練更大的模型
[11:00am] 打code，在更多數據上訓練更大的模型。搭檔是Hyung Won Chung
[12:00pm] 去食堂吃午餐（純素且無麩質）
[1:00pm] 真正開始在大量數據上訓練大模型
[2:00pm] 處理基礎設施問題（我是腦子秀逗了嗎為啥要從master分支拉code？）
[3:00pm] 監控模型訓練進度，玩Sora
[4:00pm] 給剛才訓練的大模型上提示工程
[4:30pm] 短暫休息，坐在在酪梨椅子上，思考Gemini Ultra的性能到底有多強
[5:00pm] 腦力激盪模型可能的演算法改進
[5:05pm] 修改演算法風險太高，pass。最安全的策略還是力大磚飛（增加算力和數據規模
）
[6:00pm] 晚餐時間，和Roon一起享用蛤蜊濃湯
[7:00pm] 回家
[8:00pm] 喝點小酒，繼續寫code。鮑爾默峰即將到來
[9:00pm] 分析實驗結果，我對wandb又愛又恨
[10:00pm] 啟動實驗，讓它自己跑一晚上，第二天查看結果
[1:00am] 實驗真正開始運行
[1:15am] 上床睡覺。在納德拉和黃仁勳的守護下入夢。壓縮才是關鍵。晚安