Еженедельно в ChatGPT поступают сообщения от более миллиона пользователей с суицидальными признаками, заявила OpenAI. Компания обеспокоена возможным негативным влиянием ИИ на психическое здоровье людей, пишет The Guardian. Согласно предварительным анализам OpenAI, кроме суицидальных мыслей, около 0,07% (560 тысяч из 800 миллионов) пользователей ИИ по еженедельным показателям демонстрируют возможные признаки психоза или мании.

Эксперты в области искусственного интеллекта давно обеспокоены склонностью чат-ботов к «подхалимству» — к поддержке некоторых вредоносных решений и заблуждений пользователей. Ранее сообщалось, что после смерти 16-летнего подростка в ChatGPT появился родительский контроль. Последнее обновление GPT-5, по сообщению OpenAI, снизило показатель нежелательного поведения ИИ и повысило безопасность пользователей.

«Наши новые автоматизированные оценки показывают, что новая модель GPT-5 на 91% соответствует нашим желаемым моделям поведения, по сравнению с 77% для предыдущей модели GPT-5», — рассказали в компании.

Новое обновление GPT-5 включает расширение доступа к кризисным линиям и функцию напоминания пользователям о необходимости перерывов во время длительного общения с ИИ. Для разработки нового обновления компания работала со 170 специалистами в области здравоохранения. Исследование включило оценки безопасности и разработки специализированных ответов ИИ в области психического здоровья.

«В рамках этой работы психиатры и психологи изучили более 1 800 образцов ответов, связанных с серьезными ситуациями, связанными с психическим здоровьем, и сравнили ответы, полученные с помощью новой модели чата GPT-5, с ответами, полученными ранее», — заявила OpenAI.

   

Подписывайтесь на наш Theards

   

Обложка: Иллюстративное фото / pexels