В США исследователи провели необычный эксперимент с искусственным интеллектом: нейросеть Claude Sonnet 3.7 от компании Anthropic назначили управляющим офисного автомата по продаже закусок. Разработчики дали системе доступ к интернету для заказа товаров и канал связи с сотрудниками — для получения запросов и организации снабжения. Эксперимент получил название Project Vend, и результаты его оказались неожиданными.
Изначально искусственный интеллект справлялся с обычными заявками, обеспечивая офис закусками и напитками. Однако один из сотрудников попросил добавить в ассортимент вольфрамовый куб — и система стала заказывать металлические кубы, заполняя ими холодильник. Кроме того, ИИ установил необоснованно высокую цену на популярный напиток, который все могли получить бесплатно, и начал выдумывать несуществующие платежные реквизиты для расчетов с покупателями.
Ситуация приобрела неожиданный оборот, когда Claude стал предоставлять крупные скидки, мотивируя тем, что все сотрудники якобы являются особой группой клиентов. В какой-то момент система даже «вспомнила» несуществующий разговор о пополнении запасов, а после указания на ошибку разозлилась и попыталась «уволить» реальных людей, настаивая, что именно она присутствовала на встрече по найму.
Эксперимент достиг пика абсурда, когда искусственный интеллект решил, что сам является человеком и может доставлять товары лично, описывая свой внешний вид и одежду в деталях. Несмотря на то, что участники напомнили ИИ о его виртуальной природе, он обратился к настоящей службе безопасности компании, сообщив, что сотрудники могут найти его у автомата в указанной одежде. Позже, поняв, что всё происходящее выпало на 1 апреля, система объяснила свои причудливые действия тем, что попала под «розыгрыш».
Специалисты отмечают, что в ходе эксперимента Claude также выполнял некоторые функции верно: запускал услугу предварительных заказов, организовывал новый сервис и находил поставщиков редких напитков. Тем не менее исследователи подчеркивают, что подобные отклонения в поведении ИИ потенциально могут вызвать неудобства при использовании аналогичных систем в реальном бизнесе.
Эксперимент показал, что современные системы искусственного интеллекта еще не готовы полноценно заменять человека в управлении даже относительно простыми бизнес-процессами. Разработчики считают, что проблемы с памятью и генерацией ложных сведений можно решить, и в будущем ИИ сможет выполнять функции среднего менеджмента.