Microsoft готовит возможность подключать персональных агентов Autopilot (автоматизированных помощников) к совместной среде Copilot Workspaces. Сейчас Workspaces доступна через программу Frontier для раннего доступа, а новая функция появится позднее. Как пишет Ars Technica, об этом заявил генеральный директор Microsoft Сатья Наделла.
По словам Наделлы, Copilot Workspaces должна сделать взаимодействие с искусственным интеллектом коллективным. Пользователи и агенты смогут работать над общей задачей в едином контексте. Ранее такие взаимодействия в основном проходили между одним человеком и системой.
Отдельно руководитель Microsoft остановился на вопросе доверия к искусственному интеллекту. Он отметил, что внутренние процессы моделей остаются сложными для понимания, поэтому системы нельзя считать способными самостоятельно управлять собой. В компании предлагают отделить возможности искусственного интеллекта от полномочий, которыми он наделён.
Каждый агент Autopilot получит уникальный идентификатор, а администраторы смогут ограничивать его разрешения или полностью блокировать работу. Все действия агентов будут записываться для последующей проверки людьми. Перед выполнением отдельных операций система сможет запрашивать одобрение пользователя.
Microsoft также объявила об инициативе AI Transparency Initiative (Инициатива по прозрачности искусственного интеллекта), к которой присоединились более 40 крупных компаний, включая Adobe и Mastercard. Участники намерены разработать открытые отраслевые стандарты управления искусственным интеллектом и его безопасности. Наделла назвал целью проекта создание общего стандарта, который сделает такие системы более безопасными, прозрачными и доступными.