OpenAI начинает внедрять в ChatGPT новую функцию безопасности — «Доверенное лицо». Она нужна для ситуаций, когда человеку может потребоваться поддержка не только от сервиса, но и от реального человека, которому он доверяет.
Люди используют ChatGPT по-разному: учатся, разбирают идеи, ищут решения, обсуждают личные вопросы. Иногда такие разговоры заходят в чувствительную зону — туда, где человеку может быть тяжело одному. Именно для таких случаев и добавляют новый уровень защиты.
Как работает «Доверенное лицо»
Функция необязательная. Совершеннолетний пользователь может сам выбрать одного человека, которому доверяет: друга, родственника, опекуна или другого взрослого. В большинстве стран контакт должен быть старше 18 лет, в Южной Корее — старше 19 лет.
После добавления выбранный человек получает приглашение с объяснением своей роли. Принять его нужно в течение недели. Если приглашение отклонено, пользователь может выбрать другого взрослого.
Сценарий включается не при любом тревожном сообщении. Сначала автоматизированные системы должны заметить, что пользователь, возможно, говорит о самоповреждении так, что это указывает на серьёзную угрозу безопасности. После этого ChatGPT сообщает пользователю, что может уведомить его Доверенное лицо, и предлагает самому связаться с ним, включая примеры того, как начать разговор.
Дальше ситуацию проверяет небольшая команда специально обученных специалистов. Если они решат, что разговор действительно может указывать на серьёзную угрозу, Доверенному лицу отправят краткое уведомление: по электронной почте, SMS или через приложение ChatGPT, если у него есть аккаунт.
Без пересказа личного чата
OpenAI отдельно подчёркивает: уведомление сделано максимально сдержанным. В нём не будет деталей переписки, расшифровки разговора или личных фрагментов чата. Доверенному лицу сообщат только общую причину: тема самоповреждения возникла потенциально тревожным образом. Также в уведомлении будет ссылка на экспертные рекомендации о том, как вести такой деликатный разговор.
Пользователь в любой момент может удалить или заменить Доверенное лицо в настройках. Само Доверенное лицо тоже может отказаться от роли через справочный центр.
Не замена помощи, а дополнительный слой поддержки
В OpenAI называют социальную связь одним из важных защитных факторов в кризисные периоды. При этом «Доверенное лицо» не подаётся как замена профессиональной помощи, кризисных служб или экстренных служб. ChatGPT продолжит рекомендовать обращаться на горячие линии, к специалистам или в экстренные службы, когда это уместно.
Д-р Артур Эванс, главный исполнительный директор American Psychological Association, отмечает, что возможность заранее определить человека, которому пользователь доверяет, может помочь людям обращаться за поддержкой в реальном мире в особенно важные моменты — при сохранении их выбора и автономии.
Что уже было до этого
Новая функция выросла из уведомлений о безопасности в родительском контроле. Там родители или опекуны могут получать оповещения, если у подростка с подключённым родительским контролем появляются признаки острого эмоционального неблагополучия.
Теперь похожий подход расширяют на взрослых пользователей ChatGPT: человек старше 18 лет может сам решить, кого добавить в качестве доверенного контакта.
Проверка перед уведомлением
OpenAI признаёт, что такие серьёзные ситуации возникают редко, но считает важным своевременно их проверять. Компания также прямо говорит: идеальных систем не бывает, и уведомление Доверенного лица не всегда может точно отражать то, что переживает человек.
Поэтому перед отправкой уведомление проходит проверку обученным специалистом. OpenAI стремится рассматривать такие сигналы безопасности менее чем за один час.
Кто участвовал в разработке
Функцию разрабатывали при участии клиницистов, исследователей и организаций, которые занимаются психическим здоровьем и предотвращением самоубийств. В работе использовали Глобальную сеть врачей OpenAI — более 260 лицензированных врачей в 60 странах, а также Экспертный совет по благополучию и ИИ. Среди внешних организаций, с которыми сотрудничала компания, указана American Psychological Association.
Д-р Мунмун Де Чоудхури из Georgia Tech, член Экспертного совета по благополучию и ИИ, считает, что такая функция может поддерживать реальную связь между людьми, особенно в моменты уязвимости.
Какие меры безопасности уже есть в ChatGPT
«Доверенное лицо» — не единственная мера. В ChatGPT уже есть механизмы, которые помогают реагировать на деликатные разговоры на разных уровнях риска.
В сложные моменты сервис может предложить обратиться в экстренные службы, на кризисные горячие линии, к специалистам по психическому здоровью или к людям, которым пользователь доверяет. OpenAI также работала с более чем 170 экспертами в области психического здоровья, чтобы улучшить способность ChatGPT замечать признаки эмоционального неблагополучия, снижать напряжение в разговоре и направлять человека к поддержке в реальном мире.
Кроме того, в отдельных ситуациях ChatGPT может предложить сделать перерыв после длительного использования. А если пользователь просит инструкции по самоубийству или самоповреждению, система должна отказывать в таком запросе и переводить разговор в более безопасное русло, включая показ локальных кризисных ресурсов.
Зачем это нужно
Главная идея функции проста: ИИ не должен оставаться единственной точкой контакта, когда человеку тяжело. Он может помочь заметить тревожный момент, предложить обратиться за поддержкой и, если пользователь заранее согласился, подключить человека из реальной жизни.
OpenAI описывает «Доверенное лицо» как часть более широкой работы над безопасностью ИИ-систем. Компания планирует продолжать сотрудничать с клиницистами, исследователями и разработчиками политик, чтобы улучшать реакции ИИ в ситуациях, когда пользователь может находиться в дистрессе.