【安靜】圍棋AI竟有盲點，深度學習的弱點是何處？
野狐圍棋
作者：找藉口安靜點擊：40322023-06-01 13:22
原址：https://www.nikkei.com/article/DGXZQOUD1580R0V10C23A5000000/
原題：囲碁AI、「論理的思考」に盲點 深層學習の弱點示す
摘自：日本經濟新聞
作者：北村光
翻譯和整理：找藉口安靜 感謝餘正麒點我名
我們終於找到了圍棋AI的盲點，雖然圍棋AI具備遠超人類棋手的實力，但是在一個特別的
棋型中，它卻沒法識別。據說這也是各領域的AI共同存在的一個弱點。
“啊，這個白棋全死裡面了”，對AI頗有研究的大橋拓文七段，通過某種策略戰勝了具備
最強水平的圍棋AI“KataGo”。執黑的大橋拓文在最後吃掉了左上角到中腹的一團白棋，
實空大幅領先並獲得了勝利。
大橋拓文將其稱為“甜甜圈下法”，正是下面這個圖的下法。首先讓自己的黑棋被AI的白
棋包圍，讓AI的白棋像甜甜圈一樣圍成一個圓圈。然後黑棋在這個白棋周圍行棋，而AI卻
感覺不到自己的“甜甜圈”已經處於生死的邊緣了。
這個下法是美國的一家研究團隊，和KataGo下了100多萬盤對局之後發現的漏洞。將另一
個AI設定為“敵對的AI”，另一個軟件則參考計算的這些手段來反復進行對局，此後發現
“敵對的AI”勝率超過了97%。此後到了2月，一名美國的業餘棋手通過這個方法戰勝了AI
。
相信很多人都對AI為什麼不能正確識別特定局面感到懷疑，但是大橋拓文表示，在很早以
前，包括手數很長的對殺在內，AI其實也經常下不出正確的下法。
雖說AI的實力已經遠超很多頂尖圍棋棋手，不過AI棋手並沒有完全理解“圍棋是什麼”。
比如說兩眼做活這樣的概念，圍棋的話只要被圍住對手就能吃掉，不過有黑白交替落子和
不能在禁入點落子，這兩個規則融合在一起的話，就是“只要製造兩個不能讓對手行棋的
空間，這塊棋就是活棋”。這也是剛剛學棋的人最先學到的內容。
圍棋AI是通過模仿人腦的深度學習技術，通過自我對局來提升實力，但是AI並沒有理解“
兩眼做活”這樣的理論性知識，AI只不過是通過自己的經驗選擇勝率最高的手段然後一步
步積累起來。而針對蔓延到全盤的死活，或者是不是有兩隻眼的情況，對AI來說它就需要
在龐大的數據中一個個進行反復驗證。
大橋拓文用的KataGo，在發現弱點之後又重新發佈了新的版本，而在新的版本中就很難使
用“甜甜圈戰術”了。但是KataGo的對策是“避免自己的棋子變成一圈”。在特定的情況
下，AI還是沒法正確識別局部的死活問題，而這個問題在利用深度學習技術的AI中也同樣
存在。
“甜甜圈戰術”是人類棋手之間不可能採用的特殊手段，所以說很難斷言人類棋手再一次
超越了機器。大橋拓文以及戰勝了中國圍棋AI的芝野龍之介二段也說：“這麼下和正常的
圍棋不一樣”。
和圍棋AI面臨同樣課題的深度學習型AI也有很多，比如說“ChatGPT”的文章生成功能，
也會說一些明顯是錯誤的內容。AI雖然可以通過龐大的數據然後寫出一篇像樣的文章，但
是AI並不明白這些詞的意思以及邏輯性。現在社會上各個領域都有AI的存在，但是我們還
是有必要區分其擅長和不擅長的地方。
https://www.foxwq.com/news/listid/id/14370.html