文章概要:

1. 游戲公司Activision 與 Modulate 合作，在游戲中使用 AI 監控語音聊天。

2. 新的監控系統 ToxMod 可以實時識別仇恨言論等違規內容。

3. ToxMod 首先在美國測試，11月全球發布。

微新創想(idea2003.com) 8月31日 消息:最近，游戲公司Activision宣布將在其旗艦射擊游戲《使命召喚》系列中引入人工智能語音聊天審查系統。該系統由人工智能公司Modulate研發，名為ToxMod。

注:圖片由midjourney生成

ToxMod系統可以對玩家之間的語音聊天進行實時監控，識別其中是否存在仇恨言論、辱罵、騷擾等違反游戲社區準則的內容。ToxMod不會直接對玩家進行懲罰，而是將檢測到的違規語音內容提交給Activision的人工客服進行審核。

ToxMod系統首先在北美地區試運行，部署在《使命召喚:現代戰爭2》和《使命召喚:戰區》這兩款早期作品中。11月10日，系列最新作《使命召喚:現代戰爭3》全球發布時，ToxMod也會跟隨推出。屆時該系統將覆蓋游戲的全球玩家。

據了解，ToxMod系統使用語音轉錄、情感分析等技術，識別有害內容和正常言論之間的細微差異。相比直接依靠關鍵詞過濾，這種方法可以更加準確地判斷語音中的惡意程度。同時，最終審核仍由人工客服來執行，可以避免AI直接作出錯誤判斷。