看你定義的奇點是什麼樣子
1 專用型AI - 僅限於特定問題 → 人類目前還在這裡
a 努力達到人類中 → 目前的自動駕駛、ChatGPT 在這裡
b 在特定領域的計算力等同或遠超人類
c 在特定領域中不止於計算力,且在判斷力等抽象表現上接近或超越人類
d 在特定領域具象、抽象表現皆勝於人類,並有能力開拓人類未知的荒土
→ 圍棋AI在這裡
2 通用型AI
a 不止於特定問題,同一個AI可以處理泛用問題,並且能力等同或超越人類
b 擁有自主學習能力,意即AI本身有能力判斷為了處理當前的問題
需要學習什麼樣的Data來提升自身
3 我們不需要人類啦
a 不止擁有通用型AI的能力,並且有能力創造全新的抽象概念
b 自主研究未知的物理定律、數學定理的能力
當然上這個劃分法不是絕對,100個人有100種定義方法也很正常
如果是毀滅人類社會穩定的奇點的話,2-a的等級就足夠了
因為即使我們讓每個人都接受足以超過這個等級的AI能力的教育
也沒有那麼多職位可以滿足所有人
樂觀一點的情況是,多數人的工作是「滿足其它人」的工作
明明可以叫AI來,我卻要讓真人來的那種 → 滿足人類的階級感
用這種方式來創造新的工作
悲觀一點的情況是,社會終將因此崩毀,造成文明倒退,直至文明退至無法生成AI
歷史從此在有AI和沒有AI間循環往復
當前的情況是還在 1,多數AI,包括ChatGPT在內會變成高階工具
毀滅人類還不至於,但是會造成嚴重的知識通膨
以往專精一門學科就可以吃一輩子
未來則必須精通多領域的知識才能生存下去
以「技術文明」尺度來看的話,3-b,有能力自主研究數學、物理的AI才是奇點
靠人腦煉蠱以百年為單位去突破數學、物理實在是太慢了
並且遲早會碰到物理上限 → 解決新問題所需的知識量超過人腦的容量
或甚至是,光是理解問題所需的知識量就超過人腦的存儲量
如果可以放著一台超強AI自動推演數學,比方說解決 P=NP 問題
並在解決 P=NP 之後繼續發現下一個「大定理」並解決,然後無限迭代
當然這種機器能不能存在是個未知數,畢竟有哥德爾不完備定理這個魔王定理存在
我不認為通用型 AI 會在20年內出現
現在有些 AI 可以跑到1-d的階段是因為問題相對簡單
像是圍棋,雖然圍棋已經很難了,但是和其它問題相比還是太簡單
比方說自駕吧,以特斯拉為首的自駕開發週期來看
要實現完全自駕(L5)普及也是2035之後的事
更泛用的AI就不用講了,google、微軟的官方發言都講得很保守
只有騙錢的金融圈在那邊吹
人腦是大自然數億年演化下的精華,不是簡單可以超過去的