像《使命召喚》這樣的第一人稱射擊遊戲因其大廳和語音聊天的毒性而臭名昭著。 民意調查稱該系列的粉絲群是遊戲行業中最負面的； 兩名球員之間的不和曾經導致特種部隊的召集。 動視多年來一直試圖打擊這種行為，部分解決方案可能與人工智能有關。
Activision 與 Modulate 合作，為其遊戲帶來“遊戲內語音聊天審核”功能。 使用名為 ToxMod 的人工智能技術的新審核系統將實時檢測歧視和騷擾等行為。
ToxMod 在北美的初步 Beta 測試今天開始。 它活躍於《使命召喚：現代戰爭 II》和《使命召喚：戰區》中。 “全球全面發布”（新聞稿中所述，不包括亞洲）將於 10 月 日發布，同時發布今年該系列的新作《使命召喚：現代戰爭 III》。
Modulate 的新聞稿並未詳細介紹 ToxMod 的具體工作原理。 在 地點 該公司指出，該工具“調節語音聊天以標記不良行為，分析每次對話的細微差別以識別毒性，並允許主持人通過提供相關且準確的背景來快速響應每個事件。” 在最近的一次採訪中，該公司首席執行官表示，該工具的目標不僅僅是簡單的轉錄。 它還考慮了玩家的情緒和音量等因素來區分惡意和幽默言論。
值得注意的是，該工具（至少目前）不會根據其數據對玩家採取行動，而只會向動視版主發送報告。 人類的參與可能仍然是一個重要的保障措施，因為研究表明，語音識別系統在對不同種族身份和口音的用戶做出反應時可能會表現出偏見。
另請閱讀：