OpenAI опубликовала оценочную статистику о диалогах в ChatGPT, где прослеживаются признаки суицидального планирования или намерений, а также возможных острых психических состояний. По данным ИИ, среди еженедельной аудитории сервисов признаки суицидальных настроений встречаются примерно у 0,15% пользователей, а возможных психозов или мании — у 0,07%.
«Наш первоначальный анализ показал, что около 0,15% пользователей, активных в данную неделю, ведут разговоры, включающие явные признаки потенциального планирования или намерения совершить самоубийство, а 0,05% сообщений содержат явные или неявные признаки суицидальных мыслей или намерений», — сказано в публикации.
Исходя из аудитории около 800 млн пользователей в неделю, OpenAI оценивает, что свыше 1,2 млн разговоров могут содержать явные признаки потенциального суицидального намерения, а примерно 560 тыс. — признаки неотложных психических состояний. Компания сообщила, что сотрудничает более чем со 170 специалистами по психическому здоровью, чтобы точнее распознавать такие сигналы, реагировать осторожно и направлять людей к проверенным источникам поддержки и помощи.
Ранее в компании OpenAI заявили, что ChatGPT будет сообщать в полицию о потенциальных преступниках, если они расскажут о своих планах в диалоге с искусственным интеллектом. Пресс-служба также отметила, что их модели должны предлагать необходимую помощь в ответ на проявления психических и эмоциональных проблем.
Все ключевые события дня в одном месте — читайте в разделе «Главные новости» на Life.ru.
