Компания Amazon Web Services выпустила открытую модель принятия решений, созданную под влиянием Jev от TypeSafe. Разработчики ИИ всё чаще ищут решения, которые лучше подходят для автоматизации на компьютерах, чем передовые большие языковые модели. Новая модель получила название Strands Decider 2B.
Strands Decider 2B вышла на той же неделе, когда OpenAI представила аналогичный продукт. Модель позволяет быстро и с низкими затратами выбирать между заранее заданными вариантами, а также сообщать степень своей уверенности в выборе. Она полностью открыта, доступна уже сейчас и достаточно мала для запуска на локальном устройстве.
Идея проекта принадлежит ведущему инженеру Amazon Марку Брукеру. Увидев Jev, он решил создать собственную версию подобной модели. Его домашняя разработка оказалась настолько удачной, что ненадолго заняла первое место в рейтинге Jevbench среди моделей своего размера. После этого инженеры Amazon доработали проект и выпустили его через Strands Labs — организацию, которая занимается созданием новых инструментов и протоколов для развёртывания ИИ-агентов.
По словам Брукера, потребность в таком инструменте выявилась в разговорах с клиентами AWS. Их агентные рабочие процессы не всегда требовали возможностей или затрат полноценной большой языковой модели. «Изначально мой интерес к этому классу моделей вызвало то, что они идеально подходят на роль решающего звена для шага рабочего процесса — «что мне делать дальше, исходя из того, где я нахожусь?»», — рассказал Брукер TechCrunch. Он отметил, что модель даёт клиентам «шаг рабочего процесса, который можно организовать более надёжно благодаря оценкам уверенности и закрытому набору ответов, с меньшей задержкой и потенциально меньшими затратами».
Как и другие модели принятия решений, Strands Decider построена на «туловище» большой языковой модели, в данном случае Qen3.5-2B, но вместо генерации текста она выдаёт выверенные варианты выбора. TypeSafe назвала свою модель Jev в честь экономиста Уильяма Стэнли Джевонса, надеясь вызвать ассоциацию с его теорией о том, что снижение стоимости чего-либо, например компьютерного интеллекта, может увеличить спрос на это. Появление десятков похожих моделей у исследователей после дебюта идеи TypeSafe говорит о широком интересе, но также ставит вопрос об их реальной ценности. Брукер считает, что главная задача — оптимизировать быстроту принятия решений, не жертвуя интеллектом модели.
«Здесь нужно найти очень тонкий баланс: вы хотите повысить точность и калибровку на таких задачах, не ухудшая при этом понимание разных языков и не теряя те знания, которые делают модель универсальной, интересной и полезной», — сказал он TechCrunch. При этом Брукер не ожидает, что передовые лаборатории обязательно будут доминировать в этой нише, особенно учитывая, что на небольших рынках стоимость создания чего-то интересного измеряется сотнями или тысячами долларов. В TypeSafe, в свою очередь, заявляют, что сосредоточены на улучшении будущих моделей. «Я понимаю, что люди воспринимают это как золотую лихорадку, но они могут недооценивать сложность создания по-настоящему умных моделей, — заявил генеральный директор и основатель компании Диогу Алмейда TechCrunch. — Текущая волна больше похожа на специалистов по машинному обучению, которые хотят реализовать интересную архитектуру, а не на команду, глубоко преданную идее сделать интеллект полезным».