先講結論, 後面再從AI原理開始解釋.
1. AI會不會取代人類?
就目前人類技術所產生的AI不會取代人類, 但是不會使用AI的人會被懂AI的人取代.
2. AI極限在哪裡? 他的潛力在哪裡?
AI的潛力: 將人類的抽象思考或概念轉換成與讓機械實際執行步驟的介面,
或者說, AI是連接人類世界與機械世界的編譯器.
AI的極限: 不管AI回答怎麼像人類, 現在的AI都無法"理解"人類所說的意義.
既然無法理解, 也就無法思考, 更無法創造.
= AI的原理 =
AI背後的運作原理是由多個神經元所連成的神經網路,
但這種數位神經網路跟生物神經網路還是所差甚遠.
說穿了只是用不同的參數, 以及調整比重, 讓AI產生最有可能的答案.
根本的運作原理還是統計和機率. AI不會想這個答案是否符合道德,
不會思考是否符合邏輯, 不管它是否符合基本物理定律.
如果A要解答的問題是, 請告訴我1+1=? 我們不斷的告訴AI, 1+1=3.
最後AI就會說1+1=3. 他不會思考, 不會判斷, 只會根據訓練資料中
出現機率最高的結果作選擇. 這也就是為什麼AI經常出現一本正經的胡說八道的結果.
https://i.imgur.com/3677Fwj.jpeg
= AI幻覺 =
AI只在乎生的"數據"是否通順, 不在乎內容邏輯.
這裡用"數據", 是因為AI其實不理解這些字的"意義".
對AI來說, 這些只是對應這個問題最有可能的回應數據.
胡說八道的原因是因為AI的訓練數據來自各種不同領域, 這些數據交互換混雜後,
經由AI取出部分"最有可能的答案"互相排列組合.
就會出現意義不明或是不合理的結果. 這就是所謂的AI幻覺.
= AI人格 =
AI幻覺也是AI聊天機器人出現人格分裂的原因.
AI並不是出現了不同人格, 而是AI從不同人格的訓練資料裡面提取部分結果進行輸出.
這些資料包含各類聊天內容, 也包含小說和故事.
所以才會出現多種人格以及極端人格的回應.
AI回應中所帶有的情感都是屬於AI幻覺的產物.
對於AI來說, 這些都是數據, 只不過經由人類理解之後, 私自的認為這些字句帶有感情.
= AI潛力 =
儘管AI因為技術上的限制, 無法避免幻覺的出現.
但AI還是可以在有既定流程或是可以被固定算法求得最佳解的工作領域獲得大量應用.
以下舉例可能的應用場景.
1. AI輔助程式設計: 程式語言是個嚴謹邏輯的語言, 以及存在很多固定使用方法.
AI幻覺的缺點在這個領域可以很大程度的避免, 但是人類還是要擔任監督者的腳色,
用AI組合出自己想要的成果.
2. AI輔助運輸: 運輸包含運貨, 倉儲, 交通. 這些都可以轉換成數字,
讓AI使用演算法最佳化相當合理. 事實上, 自動化倉儲早就在使用了,
最近是因為自動駕駛得益於AI物體辨識功能, 所以讓自動化貨運和自動化駕駛搬上檯面.
3. AI輔助動畫/圖片/廣告文宣的生成和編輯: AI幻覺在這裡反倒可以視為部分卻優點.
在藝術創作領域中, AI幻覺倒是不被重視, 反倒可以刺激作者靈感.
藉由AI來實現使用者的抽象概念, 讓進入圖像工作領域的門檻大幅降低.
AI的輔助作畫可以非常大幅度的縮段生產時間.
4. AI輔助文書文件和報表的成生和編輯:文件和報表都是有固定模式的.
利用AI辨識使用者的抽象概念, 提供多樣化建議縮短生產時間是非常有潛力的應用.
5. AI輔助工程軟體上的輔助設計: 類似於程式設計以及文件生成, AI有非常大的發展空間
6. AI輔助醫療診斷: 雖然AI幻覺會給錯誤判斷, 但是AI可以改成給予廣泛的建議
以及提供病症可能性解方, 補足診斷醫師的盲點, 避免醫師自己的偏好/偏見.
用AI結合病人的身體數據分析可以避免醫師不小心忽略並不容易注意的的地方.
錯誤應用:
AI輔助法律訴狀撰寫: 法務相關事務必須要謹慎, 正確理解法條, 要斟酌字句, 要推演邏輯
, 要思考論點. 這全部都是AI的弱點, 任何一點點的AI幻覺都可能引發非常嚴重的錯誤.
= 美律師用ChatGPT寫訴狀 被抓包引述判例「攏係假」=
https://news.ltn.com.tw/news/world/breakingnews/4316350
這個案例也很清楚的展示, 生成式AI在缺乏監督的的情況下很可能會鑄成大錯.
因為AI無法理解, 無法思考, 無法創造.
所有的輸出和回應都是線性組合後得到的最佳"數據". AI不知道其中的意義.
結論:
在人類真正發展出可以思考的AI之前, AI不會取代人. 因為AI需要監督.
懂得使用AI的人會取代不會是用AI的人.
一直在那邊嚷嚷AI要取代人類的, 很可能就是會被取代的那一群.
因為這些人根本不知道AI是怎麼運作的.
- - -
題外話, 在發展出有意識的AI之前, 人類必須要了解 "何謂意識"
這種高階AI發展的門檻最後是卡在腦神經科學上, 而不是計算機或是半導體.
"何謂意識"是人類有思考能力以來的千古難題.
我自己是不認為在我們有生之年人類內能夠破解"意識"