На крупной технологической конференции Dreamforce компания Salesforce представила новую модель искусственного интеллекта под названием Koa (Коа). Эта разработка стала одной из главных анонсов мероприятия. Koa — первая reasoning-модель (модель рассуждений) компании, созданная на базе открытой модели Nemotron от Nvidia.
Обе компании совместно занимались дообучением Koa, чтобы она лучше справлялась с задачами в сфере продаж, маркетинга и поддержки клиентов. По данным TechCrunch, этот проект показывает, как запросы корпоративного сектора к ИИ всё больше расходятся с предложениями ведущих лабораторий. Крупные разработчики предпочитают, чтобы компании загружали свои файлы, код, запросы и обратную связь напрямую в их модели и агентов, тратя на это миллионы.
Salesforce предлагает своим корпоративным клиентам открытую альтернативу закрытым фронтирным моделям. Koa обучена выполнять конкретные рабочие задачи, а не решать абстрактные математические проблемы. Модель не использует реальные данные заказчиков, поэтому не может их раскрыть. Кроме того, она помогает сократить расходы на ИИ за счёт меньшего числа токенов при той же работе и может автоматически направляться через специальный ИИ-шлюз (gateway) в зависимости от потребности. Также модель учитывает все требования клиентов к данным и безопасности, встроенные в Salesforce.
Koa будет доступна как альтернатива другим моделям на платформе Agentforce, где клиенты создают агентов для рутинных задач, например ответов на вопросы службы поддержки или записи на приём. «Мы создали много небольших языковых моделей для конкретных задач, которые входят в портфель Agentforce, — рассказал TechCrunch Джайеш Говиндараджан, исполнительный вице-президент Salesforce по ИИ. — Но рассуждения всегда были тем, для чего мы полагались на поставщиков фронтирных моделей. До сих пор».
Ранее, если агенту требовалось обдумать длительную или многошаговую задачу, запросы направлялись к фронтирной модели вроде Claude или ChatGPT через ИИ-шлюз Agentforce, который решает, какая модель обработает запрос. По словам Говиндараджана, компания давно хотела обучить собственную корпоративную фронтирную модель, но не хватало предобученной базовой модели. Только с появлением Nemotron стало доступно американское решение, которое одновременно является передовым и имеет прозрачное происхождение данных. Дообучение такой модели означает превращение универсальной системы в инструмент, хорошо разбирающийся в продажах и поддержке клиентов. Для этого Salesforce и Nvidia не использовали реальные данные заказчиков, а создали синтетические данные, имитирующие поведение клиентов.
«Мы смоделировали среду обслуживания клиентов с участием специалиста по поддержке, включая недовольных клиентов, звонящих в сервисный центр, вплоть до продавца, пытающегося закрыть сделку», — описал Говиндараджан. Koa должна лучше справляться с рабочими задачами клиентов Salesforce и обходиться дешевле по числу используемых токенов, чем Claude или ChatGPT. При этом Salesforce не отказывается от сотрудничества с Anthropic и OpenAI. Компания только что объявила о партнёрстве с Anthropic под названием ClaudeForce, которое позволяет использовать Claude как интерфейс ИИ, сохраняя данные в системе Salesforce под защитой её инфраструктуры.