How does a small moderation team reduce toxicity across a community of millions? To keep the Rogue Company community healthy and fun, mid-size studio Hi-Rez turned to third-party AI solutions for help monitoring in-game player behaviors at scale.
Creating a safer community and reducing player churn
PC, Xbox, PlayStation®
450
Atlanta, Georgia
2021年，担任玩家体验总监的托尼-琼斯（Tony Jones）深入研究了Rogue Company社区中的毒性，意识到Hi-Rez需要一个解决方案来扩展其团队的审核能力。当他在 2023 年转任首席制片人一职时，Jones 联系了 Unity 并了解到安全语音，这是一款由 Unity Gaming Services (UGS) 提供的全新人工智能驱动的毒性检测工具。
建立持久、包容的社区是 Hi-Rez 的核心使命。"琼斯说："我们目前的首要任务是了解球员在信任和安全方面的需求。
Hi-Rez 使用 Safe Voice 的预测分析技术对游戏内的语音通信进行声学（语音语调）和语义（词语含义）分析。该系统添加了人工智能生成的标签，可清楚地说明为何要报告会话，从而加快版主的工作流程。
琼斯拥有 12 年的游戏社区管理经验，他称语音聊天是信任和安全领域的 "狂野西部"。
使用安全语音，报告的实例将通过毒性评分、中断评分、总体风险以及特定事件中是否影响了高危玩家等指标进行分类。这有助于琼斯的团队 "识别破坏性行为并主动解决轻微的毒性问题，这样我们就能让球员康复，而不是让他们循环退出"
确保识别有毒或破坏性行为的最佳阈值对 Hi-Rez 非常重要。
"False posives 会导致玩家上诉，从而给我们带来更多工作。琼斯解释说："起初，我们让亵渎行为影响毒性评分，但大多数情况下，我们发现这些事件并不具有可操作性。通过配置安全语音以匹配其游戏文化，Hi-Rez 将误报率降低了 90%，从而改进了事件优先级和响应时间。
并非所有破坏性行为都是言语行为。大声喧哗、音乐甚至宠物的叫声都会影响游戏的乐趣。当 Hi-Rez 首次开始使用 "安全语音 "时，他们意识到 "人们的麦克风会传出大量背景噪音"。
洞察到这一点后，琼斯和他的团队开始思考解决方案。"他说："这促使我们考虑在游戏中采用降噪技术。"如果没有安全语音，我们不会知道这是一个问题。"
使用安全语音仅仅几周，我们就发现了影响 Rogue Company 玩家社区的新问题。正如琼斯所说，该工具 "照亮了以前黑暗的空间。我们现在可以看到存在的问题，并采取行动加以改进"
