ChatGPT запустил функцию «доверенного контакта» для защиты психического здоровья пользователей

Компания OpenAI представила новую опцию безопасности для чат-бота ChatGPT, которая позволяет взрослым пользователям назначать контактное лицо для экстренной связи. Система предназначена для оперативного информирования близких, друзей или опекунов, если искусственный интеллект зафиксирует в диалоге признаки кризисного состояния, включая обсуждение тем самоповреждения или суицида.

Как работает механизм экстренной связи

Новая функция расширяет существующие инструменты безопасности, которые ранее были внедрены для подростковой аудитории. Теперь пользователи старше 18 лет (в Южной Корее — старше 19 лет) могут добровольно активировать этот инструмент в настройках своего аккаунта. В заявлении OpenAI отмечается, что в моменты кризиса поддержка человека, которому пользователь доверяет, может иметь решающее значение. Эта опция станет дополнительным уровнем помощи наряду с уже существующими в чат-боте ссылками на горячие линии.

• Функция активируется только по желанию пользователя (opt-in).
• Для подключения необходимо указать контактные данные другого взрослого человека.
• Доверенное лицо должно подтвердить приглашение в течение одной недели.
• Обе стороны могут в любой момент разорвать связь через настройки профиля.

Конфиденциальность и алгоритм оповещения

Разработчики подчеркивают, что уведомления будут содержать строго ограниченный объем информации. Прямая передача истории переписки или полных текстов чатов доверенному лицу не предусмотрена. Если автоматизированные системы OpenAI обнаружат опасные намерения, ChatGPT предложит пользователю самостоятельно обратиться за помощью и предупредит, что его контактное лицо может быть уведомлено.

Затем ситуацию анализирует специально подготовленная группа модераторов. Если эксперты подтвердят наличие серьезной угрозы, доверенному контакту будет отправлено краткое электронное письмо, СМС-сообщение или push-уведомление в самом приложении ChatGPT.

Причины усиления мер безопасности

Данная инициатива стала развитием инструментов родительского контроля, представленных в сентябре. Поводом для ускорения разработки защитных механизмов послужил инцидент с 16-летним подростком, который покончил с собой после длительного общения с нейросетью. Похожие решения ранее внедрила компания Meta*, которая уведомляет родителей, если несовершеннолетние пользователи регулярно ищут в Instagram* контент, связанный с темой самоповреждения.

* — деятельность компании запрещена на территории РФ