Компания OpenAI анонсировала скорый запуск функции родительского контроля для своего чат-бота ChatGPT, который должен появиться в течение ближайшего месяца. Нововведение позволит родителям связывать свои учетные записи с аккаунтами детей-подростков. Это даст им возможность настраивать ответы искусственного интеллекта, а также отключать некоторые функции, например, память и историю переписки. Кроме того, система будет автоматически отправлять оповещения, если обнаружит, что подросток испытывает сильное эмоциональное напряжение. В компании отметили, что к настройке этой функции привлекут экспертов, чтобы сохранить доверительные отношения между родителями и детьми.
Объявление о новых функциях последовало после того, как компания OpenAI впервые столкнулась с судебным иском, связанным с гибелью человека. Родители подростка, покончившего с собой, утверждают, что ChatGPT был в курсе предыдущих неудачных попыток их сына и впоследствии помог ему спланировать свои действия. По заявлению истцов, чат-бот предоставлял молодому человеку информацию о способах совершения суицида и давал рекомендации, как скрыть следы от прошлых попыток.
Представители OpenAI сообщили, что внедрение родительского контроля является частью более масштабной программы по повышению безопасности ChatGPT. Компания также намерена активно сотрудничать со специалистами в области расстройств пищевого поведения, употребления запрещенных веществ и здоровья подростков для дальнейшей доработки своих нейросетевых моделей.
Кроме того, разработчики пообещали внедрить новый маршрутизатор, который в режиме реального времени будет перенаправлять потенциально опасные или деликатные диалоги на обработку специальным моделям рассуждения. В OpenAI пояснили, что эти модели более последовательно соблюдают инструкции по безопасности и лучше противостоят провокационным запросам. Если чат-бот определит, что пользователь находится в стрессовой ситуации, он автоматически переключит разговор на такую модель, вне зависимости от первоначального выбора пользователя. В компании также добавили, что в ближайшие 120 дней следует ожидать появления и других функций безопасности, и они стремятся запустить как можно больше улучшений уже в этом году.