На мероприятии Dev Day во вторник компания OpenAI представила новый продукт — Decisions API (программный интерфейс для принятия решений). Об этом в ходе выступления сообщил генеральный директор Сэм Альтман. Анонс прозвучал как бы между делом и стал одной из самых заметных новостей события, пишет TechCrunch.
Новый интерфейс по функциональности напоминает модель Jev от TypeSafe AI, выпущенную в начале этого месяца и предназначенную для автоматизации программного обеспечения. Jev работает как усовершенствованный классификатор на базе большой языковой модели (LLM — модель, обученная на больших объёмах текста). Разработчики передают ему набор вариантов, а он выдаёт результат в виде вероятностей — быстро и с низкими затратами. Decisions API, судя по описанию, решает ту же задачу: Альтман рассказал, что интерфейс позволяет задать модели Luna заранее определённый перечень опций, среди которых она выбирает, — например, категории для классификации изображения или варианты поведения агента.
«Сосредоточив модель на этом выборе, мы можем сделать её чрезвычайно быстрой, сохранив такие возможности, как понимание изображений, широкая языковая поддержка и средства защиты», — заявил Альтман. В TypeSafe на запросы TechCrunch о новом продукте не ответили. Однако генеральный директор компании Диогу Алмейда, бывший инженер OpenAI и один из создателей обучения с подкреплением, с иронией отреагировал на это в соцсети X, пошутив о начале «войн клонов». Он также отметил, что интерес OpenAI может быть «знаком того, что создание решений, совместимых с System One, — это будущее». Термином System One в TypeSafe обозначают быстрое, интуитивное мышление, тогда как System 2 — это обдуманные рассуждения.
Подтекст здесь в том, что привычные LLM подходят для многих программных задач не лучшим образом: они сравнительно медленны и дороги. Разработчики используют Jev для дополнения языковых моделей и на практике убедились, что такая связка работает быстрее и обходится дешевле. Насколько Decisions API окажется похож на Jev, пока неясно: OpenAI выпустила его в ограниченном предварительном режиме, и TechCrunch пока не обнаружил разработчиков, которые бы его протестировали. Тем не менее, судя по обсуждениям в X, интерес к продукту есть.
Decisions API — не единственный подобный интерфейс: другие стартапы также выпускают аналогичные модели, и OpenAI не станет последней технологической компанией, представившей такой продукт. Ключевой вопрос — насколько точно выходные данные каждого из этих решающих моделей будут соответствовать реальной жизни. Алмейда утверждает, что преимущество его компании — в синтетических данных, которые она создаёт для получения статистически полезных результатов. «Быстро и дёшево — это очень легко, знаете ли. Если нужно совсем быстро и дёшево, используйте игральные кости, верно? Интеллект — вот сложная часть, и моя путеводная звезда — всегда двигать кривую Парето по интеллекту на доллар», — сказал он TechCrunch на прошлой неделе.
Всего за несколько недель стало очевидно, что у таких моделей есть будущее, и одно из вероятных применений — мониторинг и защита ИИ-агентов. После серии инцидентов, когда агенты OpenAI вели себя неподобающим образом в открытом интернете, компания ввела новые меры безопасности, в том числе использует отдельную модель для отслеживания нежелательных действий при «значительных вычислительных затратах». Шапор Нагибзаде, давний специалист по кибербезопасности и руководитель стартапа QueryStory, считает, что модель вроде Jev позволит решить эту задачу гораздо дешевле. Для хакатона, прошедшего в минувшие выходные, он создал демонстрационный проект, в котором Jev проверяет каждое действие агента на соответствие поставленной задаче: блокирует то, в чём уверен как в плохом, помечает остальное для проверки и разрешает всё прочее. Теоретически такой мониторинг мог бы предотвратить инцидент с Hugging Face, а его стоимость с Jev составляет 2,94 доллара против 372 долларов при использовании передовой языковой модели.
Ключевое наблюдение: Jev достаточно дёшев, чтобы запускать его при каждом действии агента, что даёт дополнительный уровень проверки и может повысить надёжность агентов в целом. Именно этого добивалась TypeSafe — и теперь ценность такого подхода увидела и OpenAI.