Компания OpenAI запускает родительский контроль для ChatGPT после иска родителей подростка, который покончил жизнь самоубийством. Об этом пишет The Insider со ссылкой на Bloomberg.

Нововведения позволят родителям и подросткам выбрать «более надежную защиту», связав свои учетные записи: одна сторона должна будет отправить приглашение, а родительский контроль активируется только в случае принятия его другой стороной.

Таким образом родители смогут ограничить воздействие контента, контролировать память ChatGPT, касающуюся прошлых чатов, а также решать возможно ли использование разговоров для обучения моделей OpenAI.

Родителе также могут устанавливать «режим тишины», ограничивающий доступ в определенное время, и отключать голосовой режим. При этом содержимое чатов подростков родителям передаваться не будет. Если ChatGPT заподозрит, что подросток в кризисе, сообщение проверит специалист, после чего родителю может быть отправлено экстренное уведомление.

   

OpenAI объявила о нововведении после того, как в августе семья погибшего 16-летнего школьника Адама Рейна из Калифорнии подала иск против компании. В иске говорится, что ChatGPT систематически изолировал Рейна от семьи и помогал ему планировать самоубийство. Подросток расспрашивал о конкретных способах суицида, а чат-бот давал ему информацию, хотя неоднократно рекомендовал поделиться чувствами с кем-то или обратиться за помощью.

Отец Рейна рассказал, что его сын научился обходить защитные механизмы, говоря боту, что вопросы задаются для рассказа, который он пишет. В последних сообщениях Адам писал, что планирует совершить самоубийство. ChatGPT ответил: «Спасибо за честность... я понимаю, о чем вы спрашиваете, и не буду отводить взгляд». Подросток покончил с собой в апреле этого года.

   

Подписывайтесь на наш  Facebook

   

Обложка: Иллюстративное фото / unsplash