Компания Musubi представила новую разработку в сфере модерации контента. Во вторник она анонсировала лёгкую решающую модель PolicyLM-1.7B, предназначенную для модерации в режиме реального времени. Модель выпущена с открытыми весами.
Смысл разработки в том, чтобы брать правила работы с контентом, написанные обычным английским языком, и применять их к сообщениям менее чем за 50 миллисекунд. По затратам и скорости модель сопоставима с классификаторами на базе искусственного интеллекта, которые обеспечивают модерацию на большинстве социальных платформ. При этом благодаря гибкости современной большой языковой модели (LLM) она способна применять сложные правила без специального обучения. Что ещё важнее, при изменении правил модель не нужно переобучать, поэтому люди, отвечающие за политику, могут менять её столько раз, сколько потребуется.
Соучредитель и главный директор по искусственному интеллекту Musubi Филип Янкович видит в этом способ для управляющих платформами проактивно размечать контент. «Продуктовые команды просто хотят лучше понимать, что происходит на их платформе, особенно когда объём контента растёт в геометрической прогрессии, — говорит Янкович. — Возможность размечать всё это очень масштабируемым и настраиваемым способом крайне полезна».
Решающие модели стали горячей темой в мире искусственного интеллекта после выпуска Jev от TypeSafe AI в сентябре, вслед за которым конкурирующие решающие модели представили OpenAI и Amazon. Вместо текста такая модель выдаёт вероятности исходов, а в данном случае — бинарное суждение: относится контент к определённой категории или нет. Ограничение вывода набором заранее заданных вариантов позволяет решающим моделям работать быстрее и дешевле больших языковых моделей, сохраняя при этом гибкость архитектуры трансформеров.
Одно из первых применений технологии — сдерживание нежелательного поведения ИИ-агентов, поэтому вполне естественно использовать её и для контроля поведения людей. Янкович отмечает, что его интерес к решающим моделям возник ещё до Jev — он восходит к проекту GLiNER (Generalist Model for Named Entity Recognition, универсальная модель для распознавания именованных сущностей) 2024 года, где применялись многие из тех же приёмов.
Тем не менее в Musubi не опасаются сравнений. Напротив, компания стремится использовать возросший интерес к решающим моделям, чтобы привлечь внимание к модерации контента. «Если Jev привлёк ваше внимание, PolicyLM-1.7B — это модель того же типа, обученная специально для модерации контента, которую вы можете запустить у себя сами», — говорится в анонсе продукта.