Musubi 推出用于实时内容审核的 PolicyLM-1.7B 决策模型

Musubi 于周二宣布推出一款名为 PolicyLM-1.7B 的轻量级决策模型，专为实时内容审核设计。该模型以开放权重发布，可在 50 毫秒内处理以通俗英语撰写的内容政策。这一公告将该技术定位为社交平台内容审核所用传统 AI 分类器系统的替代方案，在政策发生变化时无需重新训练，便能提供现代大语言模型的灵活性。Typesafe AI 于 9 月发布 Jev 后，决策模型在 AI 行业获得了广泛关注，随后 OpenAI 和亚马逊也发布了竞品。

Musubi 发布用于内容审核的 PolicyLM-1.7B

Musubi 的 PolicyLM-1.7B 模型可在 50 毫秒内将内容政策应用于消息。该模型于周二以开放权重发布。据该公司称，该系统旨在匹配目前为大多数社交平台提供审核支持的 AI 分类器系统的成本和速度，同时保持现代大语言模型的灵活性。

该模型无需特殊训练即可应用复杂政策。当内容政策发生变化时，模型无需重新训练，从而让政策制定者能够按需迭代。Musubi 联合创始人兼首席 AI 官 Filip Jankovic 表示，该技术为平台管理者提供了一种主动标记内容的方式。

“产品团队只是希望更好地了解其平台上正在发生的事情，尤其是在内容量呈指数级增长的情况下，”Jankovic 说。“能够以高度可扩展且可定制的方式标记所有这些内容，极其有用。”

Jev 发布后决策模型在 AI 行业获得发展势头

Typesafe AI 于 9 月发布 Jev 后，决策模型成为 AI 行业的重要话题。随后，OpenAI 和亚马逊发布了竞品决策模型。决策模型不输出文本，而是输出结果概率。在 Musubi 的案例中，该模型输出二元判断，用于确定内容是否属于特定类别。

通过将输出限制为预定选项，决策模型的运行速度比大语言模型更快、成本更低，同时保持了 Transformer 架构的灵活性。Jankovic 表示，他对决策模型的兴趣早于 Jev，可追溯至一个名为 GLiNER（通用命名实体识别模型）的 2024 年项目，该项目采用了类似技术。

PolicyLM-1.7B 瞄准平台审核应用场景

决策模型的一个早期应用场景是控制 AI 智能体的不当行为。Musubi 将同样的技术应用于内容审核，以应对人类的不当行为。该公司的产品公告称：“如果 Jev 引起了你的注意，那么 PolicyLM-1.7B 就是同类模型，专为内容审核训练，你可以自行运行。”

该模型接收以通俗英语撰写的内容政策，并将其应用于消息。随着各平台的内容量呈指数级增长，该技术让平台管理者能够以可扩展且可定制的方式标记内容。

常见问题

Musubi 于周二宣布了什么？

Musubi 宣布了 PolicyLM-1.7B，这是一款专为实时内容审核设计的轻量级决策模型。该模型以开放权重发布，可在 50 毫秒内处理内容。

PolicyLM-1.7B 与传统内容审核系统有何不同？

PolicyLM-1.7B 无需特殊训练即可应用复杂的内容政策，并且在政策发生变化时无需重新训练。据 Musubi 称，该模型匹配 AI 分类器系统的成本和速度，同时保持现代大语言模型的灵活性。

决策模型何时在 AI 行业获得关注？

Typesafe AI 于 9 月发布 Jev 后，决策模型成为重要话题。随后，OpenAI 和亚马逊发布了竞品决策模型。