How does a small moderation team reduce toxicity across a community of millions? To keep the Rogue Company community healthy and fun, mid-size studio Hi-Rez turned to third-party AI solutions for help monitoring in-game player behaviors at scale.
Creating a safer community and reducing player churn
PC, Xbox, PlayStation®
450
Atlanta, Georgia
2021 grub Tony Jones in seiner Rolle als Director of Player Experience in die Toxizität in der Rogue Company Community ein und erkannte, dass Hi-Rez eine Lösung benötigen würde, um die Moderationskapazität seines Teams zu skalieren. Als Jones 2023 in eine leitende Produzentenrolle wechselte, wandte er sich an Unity und erfuhr von Safe Voice, einem neuen, KI-gesteuerten Tool zur Toxizitätserkennung von Unity Gaming Services (UGS).
Der Aufbau langlebiger, inklusiver Gemeinschaften ist das Herzstück der Mission von Hi-Rez. „Unsere größte Priorität ist es, die Bedürfnisse unserer Spieler in Bezug auf Vertrauen und Sicherheit zu verstehen“, sagt Jones. Aber toxisches Verhalten und sogar Belästigung sind in Multiplayer-Spielen weit verbreitet, und Probleme in einer Gemeinschaft von Millionen zu erkennen, wäre für ein Team jeder Größe eine Herausforderung.
Hi-Rez verwendet Safe Voices prädiktive Analytics, um sowohl akustische (Tone of Voice) als auch semantische (Wortbedeutung) Analysen bei der Sprachkommunikation im Spiel durchzuführen. Das System fügt KI-generierte Labels hinzu, die deutlich machen, warum eine Sitzung gemeldet wird, was die Workflows der Moderatoren beschleunigt.
Jones hat 12 Jahre Erfahrung im Management von Spielgemeinschaften, und er nennt Voice Chat den „wilden Westen“ im Vertrauens- und Sicherheitsbereich. Nur wenige Tools können Sprachdaten im Spiel analysieren und visualisieren, und Jones beschreibt andere Lösungen als „enorm teuer und nicht realistisch“ für kleine und mittelgroße Studios.
Mit Safe Voice werden gemeldete Instanzen anhand von Metriken wie Toxizitätswert, Störungswert, Gesamtrisiko und ob Risikospieler bei einem bestimmten Vorfall betroffen waren, klassifiziert. Dies hilft Jones’ Team, „störende Verhaltensweisen zu identifizieren und proaktiv auf kleinere Toxizitäten einzugehen, damit wir Spieler rehabilitieren können, anstatt sie rauszufahren.“
Für Hi-Rez ist es wichtig, einen optimalen Schwellenwert zur Identifizierung toxischen oder störenden Verhaltens zu gewährleisten. Um die richtige Balance zwischen Spaß und Sicherheit zu finden, hat Hi-Rez Safe Voice mit seinen Toxizitäts- und Störungsfiltern fein abgestimmt.
„Falsche Positives führt zu Spielerappellen, die mehr Arbeit für uns schaffen. Anfangs hatten wir einen profanen Beitrag zur Toxizität, aber meistens stellten wir fest, dass die Vorfälle nicht umsetzbar waren“, erklärt Jones. Durch die Konfiguration von Safe Voice entsprechend der Kultur ihres Spiels reduzierte Hi-Rez False Positives um 90 %, was die Priorisierung von Vorfällen und Reaktionszeiten verbesserte.
Nicht jedes störende Verhalten ist verbal. Laute Geräusche, Musik und sogar Haustiergeräusche können den Spaß an Ihrem Spiel nehmen. Als Hi-Rez anfing Safe Voice zu verwenden, erkannten sie, dass „eine Menge Hintergrundgeräusche durch die Mikrofone der Leute kamen“. Während des 45-tägigen Monitoring-Zeitraums identifizierte das Team fast 3.000 Sitzungen, die durch Hintergrundgeräusche negativ beeinflusst wurden.
Mit dieser Erkenntnis bewaffnet, begannen Jones und sein Team, über Lösungen nachzudenken. „Es hat uns dazu gebracht, eine Geräuschreduzierung im Spiel zu implementieren“, sagt er. „Ohne Safe Voice hätten wir nicht gewusst, dass dies ein Problem ist.“
Nur ein paar Wochen Nutzung von Safe Voice werfen ein neues Licht auf Probleme, die die Rogue Company -Spielergemeinschaft betreffen. Wie Jones es ausdrückt, „erleuchtet das Werkzeug, was vorher dieser dunkle Raum war. Wir können jetzt sehen, was da ist und Maßnahmen ergreifen, um uns zu verbessern.“
Safe Voice von Unity Gaming Services hilft Ihnen, sichere, gesunde und unterhaltsame Spielgemeinschaften zu fördern. Gewinnen Sie Vertrauen und verbessern Sie das Spielererlebnis mit der KI-gesteuerten Toxizitätserkennung.
