OpenAI выявила более 1 млн диалогов с признаками суицидальных намерений

OpenAI опубликовала статистику, показывающую, что среди 800 млн пользователей ChatGPT еженедельно выявляется 0,15% с признаками суицидальных намерений. Компания сотрудничает с экспертами для улучшения распознавания таких сигналов и оказания помощи.

OpenAI представила оценочную статистику, касающуюся общения в ChatGPT, где выявляются возможные признаки суицидального планирования или намерений, а также острые психические состояния. Согласно данным искусственного интеллекта, среди пользователей сервиса на еженедельной основе около 0,15% демонстрируют признаки суицидальных настроений, тогда как признаки психозов или мании присутствуют у 0,07% пользователей.

Наш предварительный анализ показывает, что примерно 0,15% пользователей, активных в течение указанной недели, участвуют в беседах, в которых присутствуют явные признаки возможного планирования или намерения совершить самоубийство. В то же время 0,05% сообщений содержат как явные, так и неявные намёки на суицидальные мысли или намерения.

С учетом еженедельной аудитории, составляющей около 800 миллионов пользователей, OpenAI оценивает, что более 1,2 миллиона бесед могут иметь явные признаки потенциального суицидального намерения, а примерно 560 тысяч — признаков острых психических состояний.

Компания сообщает о сотрудничестве с более чем 170 профессионалами в области психического здоровья с целью более точного распознавания таких сигналов, осторожного реагирования на них и направления пользователей к проверенным источникам поддержки и помощи.

На ChatGPT был подан иск в связи со смертью подростка. Ранее в OpenAI заявили, что ChatGPT будет уведомлять полицию о потенциальных правонарушителях, если те поделятся своими планами в диалоге с искусственным интеллектом. Пресс-служба компании также подчеркнула, что их модели должны предоставлять необходимую помощь в ответ на признаки психических и эмоциональных проблем.