北京
随着决策模型在行业内的普及，一家名为Musubi的公司提出了一个运用决策模型的新思路：用它来进行内容审核。周二，Musubi发布了一款专为实时审核打造的轻量级决策模型，名为PolicyLM-1.7B，并以开放权重的形式发布。
这个想法是将用简单英语书写的内容政策应用到消息审核中，处理时间控制在50毫秒以内。Musubi的模型在成本和速度上旨在与目前为大多数社交平台提供审核支持的AI分类系统相当，但由于它具备现代大语言模型的灵活性，可以在没有专门训练的情况下应用复杂的政策。更重要的是，当政策发生变化时，该模型不需要重新训练，这使得人类政策制定者可以按需进行迭代调整。
在Musubi联合创始人兼首席AI官菲利普·扬科维奇看来，这为平台管理者提供了一种主动标记内容的方式。
“产品团队只是希望更好地了解平台上正在发生的事情，尤其是当内容数量呈指数级增长时，”扬科维奇说。“能够以一种高度可扩展、可定制的方式对所有内容进行标记，这非常有用。”
自Typesafe AI于9月发布Jev以来，决策模型已成为AI领域的热门话题，随后OpenAI和亚马逊也推出了竞品决策模型。与输出文本不同，决策模型输出的是结果概率，不过在这种情况下，模型输出的是一个二元判断：内容是否属于该类别。通过将模型的输出限制在一组预先确定的选项内，决策模型能够比大语言模型运行得更快、更便宜，同时仍保持Transformer架构的灵活性。
一个早期的应用场景是约束AI智能体的不当行为，因此将同样的技术应用于约束人类的不当行为也是顺理成章的。
值得注意的是，扬科维奇表示他对决策模型的兴趣早于Jev的出现，可以追溯到2024年一个名为GLiNER（通用命名实体识别模型）的项目，该项目部署了许多相同的技术。
尽管如此，Musubi并不避讳这种比较。恰恰相反，该公司希望借助外界对决策模型新兴起的关注，让更多人关注内容审核这一领域。“如果Jev吸引了你的目光，那么PolicyLM-1.7B就是同类模型，专门为内容审核训练而成，你可以自己运行它，”该产品的发布公告中写道。
Q&A
Q1：PolicyLM-1.7B是什么？
A：PolicyLM-1.7B是由Musubi公司发布的一款轻量级决策模型，专为实时内容审核打造，能将用简单英语书写的内容政策应用到消息审核中，处理时间在50毫秒以内，并以开放权重形式发布。
Q2：决策模型和传统AI分类系统相比有什么优势？
A：决策模型在成本和速度上与传统AI分类系统相当，但由于具备现代大语言模型的灵活性，能够在无需专门训练的情况下应用复杂政策，且当政策变化时也不需要重新训练模型，便于人类政策制定者灵活迭代。
Q3：决策模型除了内容审核还能用在哪里？
A：决策模型的一个早期应用场景是约束AI智能体的不当行为，此外Typesafe AI、OpenAI和亚马逊等公司也相继推出了自己的决策模型，显示出该技术正在被应用到更广泛的领域中。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
