Диогу Алмейда, исследователь, участвовавший в создании чат-бота ChatGPT и разработке метода обучения моделей на основе обратной связи с людьми (RLHF), остался недоволен результатом своей работы. По его словам, несмотря на все возможности технологии, она оказалась не столь полезной, как ожидалось. Об этом он рассказал изданию TechCrunch.
«У нас в руках молния в бутылке, но она бесполезна, — заявил Алмейда. — Я бился над этой проблемой с тех пор. Мне потребовалось время, чтобы прийти к выводу: проблема в том, что мы оптимизируем под человеческий язык… Мы четыре года были очень хороши в человеческом языке, но для автоматизации это не работает, потому что компьютеры говорят на другом языке».
Два года назад Алмейда покинул OpenAI и основал стартап TypeSafe AI, чтобы решить эту задачу. На текущей неделе компания представила новую модель на основе трансформера под названием Jev, которая не является большой языковой моделью (LLM). Она не выдает текст, а генерирует вероятности, которые в компании называют «калиброванными решениями».
Отказ от языка дает несколько преимуществ: модель становится чрезвычайно дешевой и быстрой, а поскольку пользователи заранее определяют возможные результаты, она не может галлюцинировать. Выходные токены бесплатны, а входные измеряются миллиардами, а не миллионами. Разработчики проявили большой интерес к продукту — из-за высокого спроса компания на короткое время потеряла возможность обслуживать пользователей через свой API. Наибольшую пользу Jev, по всей видимости, приносит в автоматизации программного обеспечения: разработчики видят в нем более дешевый и надежный способ внедрения интеллекта в код.
Например, инженер-программист Vercel Пранит Шарма сообщил, что его компания использовала ChatGPT Luna 5.6 от OpenAI для классификатора проверки команд на безопасность. После замены Luna на Jev результаты стали приходить в 5–18 раз быстрее и с большей точностью. Другой разработчик, технический директор Bryo AI Нихил Мудхолкар, протестировал Jev против Gemini для классификации деловых писем: Gemini оказался немного точнее, но в 10–20 раз дороже. Особенно Мудхолкара впечатлили оценки уверенности Jev — «это единственная модель, которая возвращает настоящую вероятность, что делает ее идеальной для автоматизации рабочих процессов!!»
Помимо замены LLM в некоторых сценариях, новая модель может их дополнять, выступая в роли умной проверки на нежелательное поведение. Использование агентов для мониторинга других агентов быстро становится дорогим, но, по мнению Алмейды, применение Jev для этой цели оправдано. Он видит, как пользователи развертывают Jev для отслеживания трассировок агентов LLM и предотвращения джейлбрейков. «В конечном счете, это немного перекладывает проблему галлюцинаций на пользователя, — пояснил технический директор Earendil Армин Ронахер. — Пользователь должен сказать: хорошо, если это возвращается с вероятностью 50%, может быть, это подбрасывание монеты, и я это игнорирую. Но если 95% — конечно, тогда я могу что-то с этим сделать».
Еще одно потенциальное применение Jev — маршрутизация моделей, отметил Ронахер. Предсказать, требует ли конкретная рабочая нагрузка определенной модели, было бы полезно, но использовать для этого LLM дорого. Низкая стоимость и скорость Jev делают возможной такую сортировку в реальном времени. Модель названа в честь Уильяма Стэнли Джевонса, экономиста XIX века, чей парадокс описывает, как падение стоимости товара может привести к росту его использования. В данном случае снижение стоимости интеллекта должно привести к его повсеместному внедрению. «Мы думаем, что умное программное обеспечение будет повсюду — эмерджентно и распределенно… гораздо больше похоже на ранний интернет, чем на мегаприложения, которые люди пытаются строить сейчас», — сказал Алмейда.
Алмейда скуп на подробности архитектуры модели, которую сторонние наблюдатели подозревают в том, что она построена на основе открытой LLM. Компания называет Jev «моделью Системы Один», ориентированной на интуицию, а не на рассуждения, и специально сфокусированной на правильной задаче. По словам Алмейды, Jev обучается исключительно на синтетических данных с использованием метода, который он называет «обучение с подкреплением на основе калиброванных решений». «Мы сделали раннюю ставку на то, что будем создавать все свои данные, и это была одна из лучших ставок в моей жизни — лучше нашего запуска, по моему мнению, лучше RLHF, — сказал он TechCrunch. — Половина [нашей компании] — это лаборатория, которая фактически владеет всей этой подобластью статистически хорошо понятных синтетических данных, и теперь это радость моей жизни».
Пока Jev остается единственной моделью такого рода, но Ронахер ожидает появления конкурентов, как только ее полезность станет очевидной. «Нам следовало бы увидеть это раньше во многих отношениях, но, вероятно, из-за того, что LLM такие дешевые и субсидируемые, часто можно не быть креативным», — сказал он. Сама TypeSafe будет создавать новые версии модели в других модальностях. На вопрос, является ли TypeSafe передовой лабораторией, Алмейда ответил: «Главный продукт передовых лабораторий — это страх или хайп. Я хотел бы, чтобы нашим главным продуктом был интеллект… [но мы] не лаборатория в смысле, знаете, ставки на бесконечное богатство, или религии, или построения Бога в дата-центре, или чего-то еще, что сегодня в моде».