Hero background image
CASE STUDY
ハイレゾが大規模な有害行為に取り組む方法
Hi-Rez社は、マルチプレイヤー・タクティカル・シューティングゲーム「ローグ・カンパニー」において、AIによる毒性検出ツール「セーフ・ボイス」を使用して、数百万人のプレイヤーの混乱に対処している。

ローグ・カンパニーの破壊的行為に狙いを定める

How does a small moderation team reduce toxicity across a community of millions? To keep the Rogue Company community healthy and fun, mid-size studio Hi-Rez turned to third-party AI solutions for help monitoring in-game player behaviors at scale.

課題

Creating a safer community and reducing player churn

プラットフォーム

PC, Xbox, PlayStation®

チームメンバー数

450

開発拠点

Atlanta, Georgia

『Rogue Company』

選手の安全に照準を合わせる

2021年、トニー・ジョーンズはプレイヤー体験ディレクターとして、Rogue Company のコミュニティの毒性を調査し、Hi-Rezがチームのモデレーション能力を拡張するソリューションを必要としていることに気づきました。2023年にリード・プロデューサーの役割にシフトしたとき、ジョーンズはユニティに連絡を取り、Unity Gaming Services(UGS)の新しい、AI主導の毒性検出ツールであるセーフボイスについて知りました。

『Rogue Company』

成果

  • 18Kのセッションを分析し、セットアップの最初の数カ月で有害なモーメントを持つ10K以上のセッションを検出しました
  • モデレーターが複数のプレイヤーとの15分に及ぶゲームを1分以内にレビューできるようにしました。
  • 音声の乱れがある2.8K セッションで音声の乱れが確認され、これまで知られていなかったプレーヤー体験の問題が浮き彫りになりました
セッションのフィードバック
コンテクスチュアルAIでより深い理解を得る

長期的で包括的なコミュニティを構築することは、ハイレゾの使命の中心です。「今、私たちが最も優先しているのは、信頼と安全という点で、選手たちのニーズを理解することです」とジョーンズは言う。

Hi-RezはSafe Voiceの予測分析を使用して、ゲーム内の音声通信の音響分析(声のトーン)と意味分析(言葉の意味)の両方を実行します。このシステムは、セッションが報告される理由を明確にするAI生成ラベルを追加し、モデレーターのワークフローをスピードアップします。

データ
信頼と安全のワイルド・ウエストを手なずける

ジョーンズ氏は、ゲームコミュニティの管理で12年の経験があり、ボイスチャットを信頼と安全の領域における「ワイルドウエスト」と呼んでいます。

セーフボイスを使用すると、報告されたインスタンスは、毒性スコア、混乱スコア、全体的なリスク、および特定のインシデントでリスクのあるプレイヤーが影響を受けたかどうかなどのメトリクスを使用して分類されます。これは、ジョーンズのチームが「破壊的な行動を特定し、些細な毒性に積極的に対処することで、選手を退団させるのではなく、リハビリさせることができる」

毒性検出
選手の経験と安全性のバランス

有害な行動や破壊的な行動を特定するための最適な閾値を確保することは、ハイレゾにとって重要です。

「誤検出はプレイヤーへのアピールにつながり、私たちの仕事を増やします。当初は、冒涜的な表現が毒性スコアの原因となっていましたが、ほとんどの場合、そのインシデントは対処可能なものではありませんでした」とジョーンズは説明する。ゲームの文化に合わせて Safe Voice を設定することで、Hi-Rez は誤検出を 90% 減らし、インシデントの優先順位付けと応答時間を改善しました。

音声の乱れ
音声障害の診断と抑止

乱暴な行動のすべてが言葉によるものではありません。大きな音や音楽、さらにはペットの鳴き声は、ゲームの楽しみを奪ってしまう。Hi-Rezが初めてSafe Voiceを使い始めたとき、"多くのバックグラウンドノイズがマイクを通して入ってくる "ことに気づいた。

この洞察を得て、ジョーンズと彼のチームは解決策を考え始めました。「ゲームにノイズリダクションを導入することを検討するきっかけになりました。「

セーフボイスを数週間使用しただけで、ローグカンパニーの選手コミュニティに影響を与えている問題に新たな光が当たりました。ジョーンズが言うように、このツールは「以前は暗かった空間を照らしてくれる」。私たちは今、何がそこにあるのかを確認し、改善のための行動を起こすことができる」

「Safe Voiceのおかげで、信頼と安全の観点からだけでなく、ゲームプレイ全般の観点から、自分のゲームで何が起きているのかが見えるようになりました。Safe Voiceダッシュボードで得られる追加データポイントの大ファンです。タグは、事件を検証する際に何を見るべきかを理解するのに役立つ」。
TONY JONES / HI-REZLead Producer
ユニティ・ジェネ・アートの吹き出し画像
デザインによって安全なコミュニティを構築する

ユニティ・ゲーミング・サービスのセーフボイスは、安全で健全で楽しいゲームコミュニティの育成を支援します。AIによる毒性検知で信頼を獲得し、プレーヤーのエクスペリエンスを向上させます。