OpenAI внедрила возможность родительского контроля в ChatGPT после инцидента в США

После того как подросток, искавший в ChatGPT информацию о методах самоубийства, скончался, OpenAI вводит родительский контроль в чат-боте.

OpenAI объявила о нововведении после того, как семья 16-летнего школьника из Калифорнии Адама Рейна подала иск против компании и ее гендиректора Сэма Альтмана. В иске говорится, что ChatGPT систематически изолировал Рейна от семьи и помогал ему планировать самоубийство.

Он запрашивал информацию о конкретных способах суицида, бот давал ему необходимую информацию, хотя и неоднократно рекомендовал обратиться за помощью. Отец Рейна рассказал, что его сын научился обходить защитные механизмы, говоря боту, что вопросы задаются для рассказа, который он пишет.

В последних сообщениях Адам писал, что планирует совершить самоубийство. ChatGPT ответил: «Спасибо за честность... я понимаю, о чем вы спрашиваете, и не буду отводить взгляд». Подросток покончил с собой в апреле этого года.

Инструменты, доступные всем пользователям с 29 сентября, позволяют родителям ограничивать способы использования ChatGPT подростками и получать уведомления, если бот определит, что ребенок может находиться в кризисном состоянии. В настройках можно задать часы, в течение которых ребенок не сможет пользоваться сервисом.