※ 引述《praiseZun (praiseZun)》之銘言：
: 現在的AI就是啊
: 深度學習爆紅是十年前就開始了
我想用簡單的說法講一下現在的AI到底是怎麼運作的
不過我對AI的理解就只有看看科技文章 下載tensorflow跑過範例而已
所以可能有很多錯誤的地方還請跟我說
在AI領域最小的單位就是神經元
你可以看作是一個作業員
作業員的工作就是一筆資料進來以後做一個轉換再丟出去
例如作業員的工作是把資料"÷2" 那你給他8他就會丟出4 非常簡單
然後你把很多作業員集合起來就會變成一個產線
然後一堆產線就集合成一間工廠
一堆工廠就集合成一間超級工廠
一堆超級工廠就集合成"超超級"工廠
不斷集合之後的"超超.....級工廠"就是我們的AI
這種不斷疊工廠的理論幾十年前就有了
只是最近硬體技術進步 能夠做更大量的運算
所以工廠可以疊更多層 往上疊之後出來的AI效果居然就還不錯
而你就是這堆"超....級工廠" AI的老闆
然後訓練AI的過程就是調整作業員的工作
例如把作業員工作調整成"÷2.5"
但是這部分是自動進行的 不是人工調整的
老闆唯一的工作就是把資料丟進去 AI吐出來之後你回答對或不對
例如你丟一張狗的圖片 AI就跟你說這是貓 你就說搞錯了 這是狗
AI就會自動調整裡面作業員的工作 然後繼續下一個測試
經過不斷調整之後如果工廠合格了
那我們不管丟什麼照片他大部分都能猜出是什麼動物
但是你完全搞不懂AI判斷的依據或是原理
就算你把資料拆開來看裡面的作業員怎麼操作的也沒用
因為他們不是用流水線的方式去處理資料
而是用一種叫做卷積(convolutional)的方式
大概就像這樣 https://imgur.com/Ivvy2YQ
所以整個AI就像一個黑盒子
你知道輸入跟輸出長怎樣 但是中間完全看不到
反正可以用就好 這就是現在AI的現況
但是中間看不到會有什麼問題?
如果有一天你買了AI駕駛的車
但是車子出問題或路況出問題
你只能選擇直行會撞到一棵大樹
或是選擇右轉撞到五個無辜的路人
如果選擇撞無辜的路人你很大的機率存活
但是五個路人很大的機率受重傷
而撞樹的話你很大的機率會死去
這時候你覺得AI該怎麼選擇?
當你站在法庭上時你覺得當初AI選擇撞路人
事由你該負責任? 還是車廠該負責任? 還是訓練AI的工程師要負責任?
如果AI選擇撞樹 這種車你敢買嗎?
如果撞到路人的情況AI判斷不是很大的機率受重傷
而是很大的機率死亡 或是很大的機率輕傷
你覺得什麼情況下AI該換不同的判斷?
你不知道 你看不到 沒人看的到
你只能把模擬資料輸入進去看結果
但是實際情況會不會不同?
這是一個很極端的例子 但是有爭議的地方往往就是在有兩難抉擇的地方
然後真實情況往往無可避免的就是會發生有許多爭議的情況

AI判斷的依據大家都懂啊 就是最後算出來那個值

AI會照路權走吧

不知道為何會得出那個值就沒辦法修正了 AI最大問題的確是修正成特定目標理論上要有一個手動輸入極高權值的結果要它優先選 這就不算是AI而是部分AI了求解不知道的東西也就算了 自動駕駛的AI大概都需要寫些規則出來遵守

比較不極端的例子也有，例如你要AI找出有人的照片，結果找出一堆白人。然後黑人就抗議了

都沒有問題啊不如說，相信DeepNetwork結果一定不會錯才是有問題的

我的理解也是AI就是黑盒子 資料丟的不一樣 模型就不一樣想改不知道從何改起 只能換資料丟丟看 換些變數重算看看

想改不知道從何改起 <--- 一堆人在亂改不是嗎XD還有一堆根本就在挑case進行cross validation現在的情況是...有滿多人改的新東西，在不同場合的效益不一樣而且驗證那些 DNN 的 backbone 好壞的方式其實也是用測資去實驗。目前並沒有透過數學去證明的方式

所以AI下棋是告訴AI輸棋是錯的 贏棋是對的 然後練蠱?

電車難題

以目前的科技來說，試圖去理解跟整理中間的運作會是徒勞的嗎？因為目前看來對AI的修正應該都是聚焦在如何讓產出沒有問題，如果有問題那就測到沒有問題為止。但真正的癥結點好像是中間的過程？

練蠱沒錯阿 蒙地卡羅就是靠賽 這就是alpha go早期的方法後面的zero我沒讀論文不確定怎麼進化的

文章所說的是supervised learning(監督式學習)，如果是像下棋這類的遊戲AI是採用reinforcement learning(強化式學習)

理解中間的運作這陣子有新的方向了，在研究對抗型攻擊時，發現防禦的方法能夠加強模型中間的可讀性，幾年內應該會有一些突破

你說卷積然後放全連接的圖′_>`

小妹論文本來想做AI的，可是研究越深越覺得這東西門檻實在太高，很多人變成微調主流架構，於是改做GPU= =卷積其實簡單講就是抓特徵，卷出來的圖就類似於Sobeloperator那樣的特徵圖，出來圖太大就池化縮小做那麼多其實也就是把大張的圖變小，又保留特徵