用 Unity 和 "拥抱脸 "为您的游戏找到合适的人工智能模型

我们很高兴与大家分享与 Hugging Face 的新集成以及 Unity Sentis 的一些产品更新,Unity Sentis 是我们的神经引擎,可将人工智能模型引入 Unity。有了 Sentis,我们的目标是让人工智能模型更易于使用,以帮助您在游戏中实现物体识别、智能 NPC、图形优化等功能。
然而,鉴于有如此多的型号可供选择,通常很难知道哪一款适合您的使用情况、确保它的可靠性以及确定它是否能与 Unity 很好地配合。这就是为什么我们与全球最大的人工智能模型中心(截至本文撰写时有 470,000+ 个模型)Hugging Face 集成,为 Unity Sentis 提供经过我们团队测试的有效人工智能模型,以确保它们无缝集成。

今后,我们将继续与 Hugging Face 合作,提供高质量、经过验证的人工智能模型,供 Unity 引擎使用。这些模型经过优化,可通过 Sentis 框架轻松实现到 Unity 中,并在 "Hugging Face "集线器中标记为 "Unity Sentis"。我们还分享了相应的即用 C# 文件,以便在游戏中执行推理。模型已预先转换为 .sentis 格式,以绕过 ONNX 转换步骤。今天,我们将提供 11 种经过验证的模型,涵盖社区要求的常见用例,如句子相似性、语音转文本、对象检测等。
为了在所有使用案例中建立一套广泛的免费开源模型,我们鼓励您使用Unity Sentis标签将感兴趣的个人项目发布到 Hugging Face Hub。
如需帮助添加模型或与社区分享您上传的 "拥抱的脸 "链接,请联系讨论区。

即使您的使用情况不利于使用 Sentis 在 Localization 上运行人工智能模型推理,"拥抱脸庞 "也能很好地与 Unity 配合使用。你可以使用Hugging Face Unity API软件包将你的模型托管在 Hugging FaceInference API 上,这是一个用于快速原型开发的免费 API,你也可以使用他们的Inference Endpoints,这是一个用于生产的付费 API。
Unity Sentis 于 2023 年作为预发布包进入开放测试阶段,团队一直在努力为今年年初带来一些稳定性改进。最近发布的版本重点解决了开发人员社区发现的问题。我们非常感谢大家不断提供反馈意见,以改进软件包。
Unity Sentis 将作为 Unity 6 版本的一部分于今年晚些时候正式推出。在此之前,Sentis 仍将是 Unity 2023 中的预发布软件包,因为我们会持续添加功能更新和修复。此外,还计划进行一系列令人兴奋的产品更新。
如果没有良好的可视化效果,要实施和优化模型可能会很困难。为此,我们计划为人工智能模型创建一个直观的图形查看器,可以直接在 Unity 编辑器内实现原生可视化。此外,这还能将模型节点(操作)分派到不同的计算类型(CPU 与 GPU)。耶,基于图形的可视化优化!

性能一直是游戏开发者关注的问题。我们的计划是与微软 Direct ML、苹果 Core ML/MPS Graph、谷歌 NN API 等平台上的硬件加速库和神经专用芯片组(也称为神经处理单元 (NPU))集成,在每台设备上实现更快的推理。更妙的是,当推理在 NPU 上运行时,意味着计算从 CPU/GPU 上卸载,从而为游戏需求留出更多预算。
虽然许多人工智能模型都可以通过 Sentis 在设备上运行,但在某些情况下,云推理是首选。例如,该模型可能只能通过托管服务提供,或者您需要维护服务器权限,或者您需要在低端设备上实现更快的性能。
如果您想在 API 中使用标准的 Unity 网络请求,或者如前所述,如果您正在使用 Hugging Face 基础架构,您可以使用Hugging Face Unity API,这些情况都可以得到解决。未来,我们计划与 Hugging Face 进一步合作,使他们的 Unity API 与 Sentis API 保持一致,从而使本地和云推理的输入和输出保持一致,这样就可以在不修改 C# 代码的情况下,更轻松地在本地和云计算之间建立原型。
Unity Sentis现在是开放测试版,所有在 Unity 2021.3 或更高版本上运行的 Unity 开发人员都可以通过软件包管理器免费下载。如果您已经与 Sentis 合作,并希望与我们的团队合作,请填写此表。
