※ 引述《choulan (莫可莫可)》之銘言
: 最近聊天用的AI很夯，我也去玩了一下，也試著弄了一些文字冒險遊戲
小弟本身是相關的研究領域的剛好在西恰看到就簡單回答，chatGPT當前是沒有所謂記憶這
件事的，他其實是用到一個Trick就是直接把你前面的對話直接併到當前對話，由於目前有
最大字數上限(印象中是4000還是40000，有錯還請見諒)超過就直接把你前面的對話都丟掉
，所以你常常會發現他好像講一講就自己忘記了。
GPT系列本身其實就是有點像接龍一樣的語言模型，你問馬可就會去預測一般人類遇到最常
做哪種回覆(最常見應該是波羅)，所以你要說他有智慧還差得蠻遠的，甚至生物智慧都是一
個當前學術研究的問題，像是神經演化算法也是一個新的研究方向(當前的神經元設計是由
人工構造用一些最佳化算法最佳化參數，而神經演化是基於遺傳算法跟自然選擇用進廢退的
方式企圖讓模型自我生成)。
最後當前有幾種業界常見的讓chatBot有記憶的方式，第一種是用一個長短期記憶神經網路
來去記住前面經過哪些對話序列後該選擇下一個是什麼，這種常見有明確選擇式的chatBot
，像是點餐機器人就是根據公司設定的對話串再決定你下一句該選擇哪個對話節點，另一種
是去透過一個更輕量的小網路來訓練機器把需要記憶的事情存起來，等到偵測到需要查詢的
內容再合併起來給模型生成對話回覆，其他的還有一些正在研究的做法，太複雜學術的就不
再這邊討論了。
人類其實在記憶上是很複雜的，大腦有分短期記憶跟長期記憶，而且人類也會選擇記憶，舉
例來說，你跟朋友前天話家常講幹話的內容應該沒有人都可以完全記住的，但是你跟主管開
會討論的內容重要代辦事項至少可以讓你記住兩三天後再忘記，人類也會借助外部儲存工具
來輔助，所以這塊還是有很多代解之謎，我跟大家都一樣期待有一天機器可以完美復刻人腦
通過百分之百的圖靈測試，那麼那天真的就是人類的科技奇點，再此之前身為研究員也會不
斷努力地站在巨人肩膀上也給後輩當巨人的肩膀傳承我們的任務。

這篇有種ai產的感覺（欸

只能等傳說中能通過圖靈的gpt4了

不是幹話可以記好幾個月但是開會只能記兩三天嗎（誤

我總覺得LSTM那作法感覺不是很scalable 說XD