Cómo Hi-Rez aborda el comportamiento tóxico a gran escala

Building long-lasting, inclusive communities is at the heart of Hi-Rez’s mission. “Our biggest priority right now is understanding the needs from our players in terms of trust and safety,” says Jones. But toxic behavior and even harassment are pervasive in multiplayer games, and detecting problems in a community of millions would be challenging for a team of any size.

Hi-Rez uses Safe Voice’s predictive analytics to perform both acoustic (tone of voice) and semantic (meaning of words) analysis on in-game voice communications. The system adds AI-generated labels that make it clear why a session is being reported, speeding up moderators’ workflows.

Jones tiene 12 años de experiencia administrando comunidades de juegos, y llama al chat de voz el "salvaje Oeste" en el espacio de confianza y seguridad. Pocas herramientas tienen la capacidad de analizar y visualizar datos de voz en el juego, y Jones describe otras soluciones como “enormemente costosas y no realistas” para estudios pequeños y medianos.

Con Safe Voice, las instancias reportadas se clasifican usando métricas como la puntuación de toxicidad, la puntuación de interrupción, el riesgo general y si los jugadores en riesgo se vieron afectados en un incidente dado. Esto ayuda al equipo de Jones a “identificar el comportamiento disruptivo y abordar de manera proactiva la toxicidad menor para que podamos rehabilitar a los jugadores en lugar de sacarlos en bicicleta”.

Asegurar un umbral óptimo para identificar comportamientos tóxicos o disruptivos es importante para Hi-Rez. Para lograr el equilibrio correcto entre diversión y seguridad, Hi-Rez ajustó Safe Voice utilizando sus filtros de toxicidad e interrupción.

“Los falsos positivos resultan en atractivos para los jugadores, que crean más trabajo para nosotros. Inicialmente, hicimos que las blasfemias contribuyeran a las puntuaciones de toxicidad, pero la mayoría de las veces descubrimos que los incidentes no eran procesables", explica Jones. Al configurar Safe Voice para que coincida con la cultura de su juego, Hi-Rez redujo los falsos positivos en un 90%, lo que mejoró la priorización de incidentes y los tiempos de respuesta.

No todo comportamiento disruptivo es verbal. Ruidos fuertes, música e incluso sonidos de mascotas pueden quitarle diversión a tu juego. Cuando Hi-Rez comenzó a usar Safe Voice, se dieron cuenta de que “había mucho ruido de fondo en los micrófonos de la gente”. Durante el período de monitorización de 45 días, el equipo identificó casi 3.000 sesiones que se vieron afectadas negativamente por el ruido de fondo. Armados con esta visión, Jones y su equipo comenzaron a pensar en soluciones. “Nos hizo considerar implementar la reducción de ruido en el juego”, dice. “No hubiéramos sabido que esto era un problema sin Safe Voice”.

Armed with this insight, Jones and his team started thinking about solutions. “It made us consider implementing noise reduction in the game,” he says. “We wouldn’t have known that this was an issue without Safe Voice.”

Solo unas semanas de uso de Safe Voice arrojaron nueva luz sobre los problemas que impactan a la comunidad de jugadores de Rogue Company . Como dice Jones, la herramienta “ilumina lo que antes era este espacio oscuro. Ahora podemos ver lo que hay y tomar medidas para mejorar”.