“ToxMod”将自动标记口头骚扰、欺凌和歧视。

周三，动视宣布的它将在即将于11月10日发布的中引入实时人工智能语音聊天调节功能使命召唤:现代战争3。该公司正与调整为了实现这一特性，我们使用了一种叫做托西莫德识别仇恨言论、欺凌、骚扰和歧视并采取行动。

而全行业挑战有毒的在线行为并不是《使命召唤》独有的，动视表示，由于该系列庞大的玩家群，这个问题的规模已经加剧。因此，它转向机器学习技术来帮助自动化解决方案。

ToxMod是一个人工智能驱动的语音调节系统，旨在识别和抵制动视公司所谓的违反游戏规则的“有害语言”行动守则。目的是补充使命召唤现有的反毒性措施，包括14种语言的文本过滤和游戏内玩家报告系统。

Activision表示，之前反毒工作的数据已经限制了超过100万个违反其行为准则的账户的语音或文本聊天。此外，收到第一次警告的人中有20%没有再犯，这表明清晰的反馈对调节玩家行为是有用的。

从表面上看，实时语音调节似乎是打击破坏性游戏行为的一个显著进步——特别是因为这种系统通常带来的隐私问题在视频游戏中不那么突出。目标是让游戏对所有玩家来说更加愉快。

然而，目前，人工智能检测系统众所周知的善变并且可能产生假阳性，特别是对于非英语母语者。鉴于音频质量、地区口音和各种语言的差异，语音检测系统在这些条件下完美工作是一个很高的要求。动视说人将留在强制行动的循环中:

检测是实时进行的，系统会根据检测到的《使命召唤行为准则》对有毒语言进行分类和标记。发现的违反行为准则的行为可能需要对相关记录进行额外的审查，以在决定强制执行之前确定背景。因此，采取的行动不会是即时的。随着系统的发展，我们的流程和响应时间也将随之发展。"

此外，Activision表示，《使命召唤》的语音聊天调节系统“只提交关于有害行为的报告，根据行为类型和基于发展模型的严重程度进行分类。”人类然后决定他们是否将强制语音聊天节制违规。

新的审核系统从周三开始测试，最初覆盖北美，重点是现有的游戏使命召唤:现代战争2和使命召唤：战争地带。除亚洲外，moderation technology的全面推出计划与现代战争3，从英语开始，随着时间的推移增加了其他语言。

尽管有假阳性的潜在缺点，但没有办法选择退出人工智能监听。作为动视的常见问题说不希望自己的声音被调节的玩家可以在设置菜单中禁用游戏中的语音聊天。