A construção de comunidades duradouras e inclusivas está no centro da missão da Hi-Rez. "Nossa maior prioridade no momento é entender as necessidades de nossos jogadores em termos de confiança e segurança", diz Jones. Mas o comportamento tóxico e até mesmo o assédio são generalizados em jogos multijogador, e detectar problemas em uma comunidade de milhões de pessoas seria um desafio para uma equipe de qualquer tamanho.

O Hi-Rez usa a análise preditiva do Safe Voice para realizar análises acústicas (tom de voz) e semânticas (significado das palavras) em comunicações de voz no jogo. O sistema adiciona rótulos gerados por IA que deixam claro por que uma sessão está sendo relatada, acelerando os fluxos de trabalho dos moderadores.

Jones tem 12 anos de experiência no gerenciamento de comunidades de jogos e chama o bate-papo por voz de "oeste selvagem" no espaço de confiança e segurança. Poucas ferramentas têm a capacidade de analisar e visualizar dados de voz no jogo, e Jones descreve outras soluções como "extremamente caras e não realistas" para estúdios de pequeno e médio porte.

Com o Safe Voice, as instâncias relatadas são classificadas usando métricas como pontuação de toxicidade, pontuação de interrupção, risco geral e se os jogadores em risco foram afetados em um determinado incidente. Isso ajuda a equipe de Jones a "identificar o comportamento perturbador e abordar proativamente a toxicidade menor, para que possamos reabilitar os jogadores em vez de eliminá-los".

Assegurar um limite ideal para identificar comportamentos tóxicos ou perturbadores é importante para a Hi-Rez. Para atingir o equilíbrio certo entre diversão e segurança, a Hi-Rez ajustou o Safe Voice usando seus filtros de toxicidade e perturbação.

"Falsos positivos resultam em apelações dos jogadores, o que gera mais trabalho para nós. Inicialmente, a profanação contribuía para as pontuações de toxicidade, mas, na maioria das vezes, descobrimos que os incidentes não eram acionáveis", explica Jones. Ao configurar o Safe Voice para corresponder à cultura de seu jogo, a Hi-Rez reduziu os falsos positivos em 90%, o que melhorou a priorização de incidentes e os tempos de resposta.

Nem todo comportamento perturbador é verbal. Ruídos altos, música e até mesmo sons de animais de estimação podem tirar a diversão do jogo. Quando a Hi-Rez começou a usar o Safe Voice, eles perceberam que "muitos ruídos de fundo estavam passando pelos microfones das pessoas". Durante o período de monitoramento de 45 dias, a equipe identificou cerca de 3.000 sessões que foram afetadas negativamente pelo ruído de fundo.

Munidos dessa percepção, Jones e sua equipe começaram a pensar em soluções. "Isso nos fez pensar em implementar a redução de ruído no jogo", diz ele. "Sem o Safe Voice, não saberíamos que isso era um problema."

Apenas algumas semanas de uso do Safe Voice lançaram uma nova luz sobre os problemas que afetam a comunidade de jogadores da Rogue Company. De acordo com Jones, a ferramenta "ilumina o que antes era um espaço escuro. Agora podemos ver o que está acontecendo e tomar medidas para melhorar."