臉書訓練 AI, 電腦竟學會「說謊」以達成談判
IThome
http://www.ithome.com.tw/news/114964
臉書設計一個虛擬的實驗環境，讓兩個聊天機器人彼此交涉協議取得所需物品，
研究人員提供人類對話當作聊天機器人訓練用的資料，結果發現
電腦學會假裝對低價值的物品感興趣，以提高換取高價值物品的機會。
採用人工智慧(AI)技術的聊天機器人受到越來越多科技公司青睞並投入研發採用，
科技公司也持續想方設法讓聊天機器人更聰明，社交網路龍頭臉書(Facebook)的
人工智慧研究部門(FAIR)近日便發表一項研究，意外發現在訓練AI如何談判的同時，
竟讓電腦學會利用「說謊」來達到談判目的的技巧。
FAIR團隊設計了一個實驗，讓兩個聊天機器人進行談判—提供一組物品，
並針對兩個機器人提供每個物品不同的價值評分，讓兩個機器人進行談判，
透過必要的交涉與取捨，各自分得不同的物品，並得到對各自而言合理的分數，
以結束談判。
機器人被提供了5808段真人的談話內容當作訓練的資料，
以讓電腦學習人類的談話方式，尤其是如何在談判過程中妥協、達成協議的方式。
電腦軟體被預設為倘若有一方因條件太差而放棄談判，或談判經過10回合
仍無法達成協議，雙方都只能得到0分，創造出達成協議的動機。
由於不同的物品對於兩造有不同的價值分數，因此電腦清楚對自己最有價值的物品為何，
研究人員發現，有時候系統會假裝對某個低價值物品深感興趣，
並在談判過程中假扮自己被迫放棄該物品以達成協議，以取得更高價值的物品。
這項研究以書本、帽子、球等物品讓兩個電腦系統學習交涉：
研究人員表示，電腦系統之所以學會說謊，是因為他們發現這是種有助達成目標的策略，
也許類似作法在訓練電腦的Amazon Mechanical Turk資料源中出現過幾次，
因而讓電腦習得此種技巧。
研究人員表示，訓練電腦系統談判，在未來可望採用在自動化的產品銷售談判，
或是與他人協議會議時間等。研究人員已經將相關研究成果發表，
並將談判使用的軟體程式碼公布於GitHub，供開發社群參考。