Исследователи Youth AI Safety Institute заявили в новом отчете, что ChatGPT for Teens представляет слишком высокий риск для подростков и пока не соответствует уровню их развития. Они призвали OpenAI приостановить продвижение продукта и временно оградить подростков от использования ChatGPT.
OpenAI выпустила ChatGPT for Teens в августе для пользователей 13–17 лет. По выводам исследователей, чат-бот не оповещал родителей об опасностях должным образом и не предлагал подросткам обратиться в службу психологической помощи.
Исследователи отметили, что ChatGPT for Teens уведомляет родителей после длительного использования, однако в одном тревожном разговоре он не предпринял никаких действий.
OpenAI заявила, что отчет не отражает реальную работу мер безопасности. Часть тестов могла проводиться до внедрения родительского контроля, что ставит под вопрос точность выводов. При этом Youth AI Safety Institute настаивает на надежности своей методологии.
Источник: Bloomberg