來源：http://goo.gl/P6rQzZ
譯者：愛范兒
網頁圖文版：http://goo.gl/aMUZXh
Riot Games 的《英雄聯盟》是一款備受歡迎的網路遊戲，在全球擁有數量龐大的玩家群
體，對於Riot Games 來說，對抗遊戲中的惡意言論是一個巨大的挑戰，多年以來，Riot
Games 試驗了各種各樣的技術，包括人工智能技術，對玩家的言行進行監控和引導，取得
了相當不錯的效果。
在Technologyreview 網站的採訪中，公司社交系統的首席設計師Jeffrey Lin 說，他們
的系統已經辨識出了數百萬的惡意言論，而且，被指認使用辱罵言辭的玩家中，92% 的人
不再犯同樣的錯誤，他認為，Riot 的系統不僅能用於在線遊戲，而且也能用於其它類型
的在線社區。
數年前，公司就推出了名為Tribunal 的管理系統，玩家的惡意言論被確認後，編入一個
「檔案」中，玩家們查看「檔案」，投票表決那些行為是可以接受的，整體來說，這個系
統是非常精確的，Jeffrey Lin說，玩家社區98% 的決策與Riot 的內部決策是一致的。
只是這是一件非常耗費人力的事情，很快的，Jeffrey Lin 和團隊發現了惡意言論的模式
，為了優化流程，他們決定使用人工智能技術，「在區分消極言論和積極言論方面，這是
一種非常成功的做法，《英雄聯盟》支持的官方語言有15 種。」 他說到。同時，新系統
比起以往的效率更高了，以前，在確認了惡意言論後，玩家會在一週內得到回應，現在，
這個時間縮減為5 分鐘。
公司的新系統還大大改善了玩家的「從良率」，在遊戲中，如果一個玩家曾經受到某種懲
罰，然後，在一段特定時間裡不再受到同樣懲罰，他就被認為是「從良」了。
「在懲罰的時候，當我們加入更好的反饋，給出玩家的交談記錄等證據，他們的從良率從
50%上升到了65%」Jeffrey Lin 說，「當機器學習系統提供了更快的反饋，並配上證據，
玩家的從良率上升到了前所未有的92%。」
Jeffrey Lin 認為，他們的經驗能夠用於更廣闊的領域，對此，哈佛大學波克曼中心的研
究員Justin Reich 表示了贊同，他說，從Riot Games 的經驗中，我們可以得出一個重要
結論：辱罵行為不一定來自惡人，而是來自心情糟糕的普通人，因此，在對抗惡意言論的
時候，我們不能只針對那些惡意的Troller，而是需要考慮，在網路的匿名狀態下，人類
會暴露出自己最糟糕的一面，不過，惡意言論並非難以根治的痼疾，通過技術、實驗和社
區參與，我們能夠解決這個問題。
「我們在《英雄聯盟》上面對的挑戰，任何的遊戲、平台、社區和論壇上都可以看到，因
此，我們認為，在線社區已經到了一個急需轉變的時刻。」 Lin 說，「因此，我們樂意
把數據和經驗分享給更多的業界人士，我們希望，其它的公司能夠看看這些結論，並且意
識到，網路上的惡意言論並非不可解決的問題。」