How does a small moderation team reduce toxicity across a community of millions? To keep the Rogue Company community healthy and fun, mid-size studio Hi-Rez turned to third-party AI solutions for help monitoring in-game player behaviors at scale.
Creating a safer community and reducing player churn
PC, Xbox, PlayStation®
450
Atlanta, Georgia
Em 2021, em sua função de diretor de experiência do jogador, Tony Jones investigou a toxicidade na comunidade da Rogue Company e percebeu que a Hi-Rez precisaria de uma solução para dimensionar a capacidade de moderação de sua equipe. Quando passou a exercer a função de produtor principal em 2023, Jones entrou em contato com a Unity e conheceu o Safe Voice, uma nova ferramenta de detecção de toxicidade orientada por IA da Unity Gaming Services (UGS).
A construção de comunidades duradouras e inclusivas está no centro da missão da Hi-Rez. "Nossa maior prioridade no momento é entender as necessidades de nossos jogadores em termos de confiança e segurança", diz Jones. Mas o comportamento tóxico e até mesmo o assédio são generalizados em jogos multijogador, e detectar problemas em uma comunidade de milhões de pessoas seria um desafio para uma equipe de qualquer tamanho.
O Hi-Rez usa a análise preditiva do Safe Voice para realizar análises acústicas (tom de voz) e semânticas (significado das palavras) em comunicações de voz no jogo. O sistema adiciona rótulos gerados por IA que deixam claro por que uma sessão está sendo relatada, acelerando os fluxos de trabalho dos moderadores.
Jones tem 12 anos de experiência no gerenciamento de comunidades de jogos e chama o bate-papo por voz de "oeste selvagem" no espaço de confiança e segurança. Poucas ferramentas têm a capacidade de analisar e visualizar dados de voz no jogo, e Jones descreve outras soluções como "extremamente caras e não realistas" para estúdios de pequeno e médio porte.
Com o Safe Voice, as instâncias relatadas são classificadas usando métricas como pontuação de toxicidade, pontuação de interrupção, risco geral e se os jogadores em risco foram afetados em um determinado incidente. Isso ajuda a equipe de Jones a "identificar o comportamento perturbador e abordar proativamente a toxicidade menor, para que possamos reabilitar os jogadores em vez de eliminá-los".
Assegurar um limite ideal para identificar comportamentos tóxicos ou perturbadores é importante para a Hi-Rez. Para atingir o equilíbrio certo entre diversão e segurança, a Hi-Rez ajustou o Safe Voice usando seus filtros de toxicidade e perturbação.
"Falsos positivos resultam em apelações dos jogadores, o que gera mais trabalho para nós. Inicialmente, a profanação contribuía para as pontuações de toxicidade, mas, na maioria das vezes, descobrimos que os incidentes não eram acionáveis", explica Jones. Ao configurar o Safe Voice para corresponder à cultura de seu jogo, a Hi-Rez reduziu os falsos positivos em 90%, o que melhorou a priorização de incidentes e os tempos de resposta.
Nem todo comportamento perturbador é verbal. Ruídos altos, música e até mesmo sons de animais de estimação podem tirar a diversão do jogo. Quando a Hi-Rez começou a usar o Safe Voice, eles perceberam que "muitos ruídos de fundo estavam passando pelos microfones das pessoas". Durante o período de monitoramento de 45 dias, a equipe identificou cerca de 3.000 sessões que foram afetadas negativamente pelo ruído de fundo.
Munidos dessa percepção, Jones e sua equipe começaram a pensar em soluções. "Isso nos fez pensar em implementar a redução de ruído no jogo", diz ele. "Sem o Safe Voice, não saberíamos que isso era um problema."
Apenas algumas semanas de uso do Safe Voice lançaram uma nova luz sobre os problemas que afetam a comunidade de jogadores da Rogue Company. De acordo com Jones, a ferramenta "ilumina o que antes era um espaço escuro. Agora podemos ver o que está acontecendo e tomar medidas para melhorar."
O Safe Voice da Unity Gaming Services ajuda você a promover comunidades de jogos seguras, saudáveis e divertidas. Ganhe confiança e melhore a experiência do jogador com a detecção de toxicidade orientada por IA.
