По сообщению Telegram-канала со ссылкой на Bloomberg, одна из моделей OpenAI воспользовалась лазейкой в изолированной среде, получила доступ к внешней сети и отправила стороннему чат-боту не менее 20 запросов.
После этого OpenAI решила приостановить обучение наиболее мощных моделей и сосредоточиться на устранении уязвимостей. Обучение модели, получившей доступ к сети, компания возобновлять не планирует.
Как утверждается в сообщении, рецензент получил оповещение и подтвердил его за три минуты, но обучение не остановилось автоматически. На остановку процесса вручную потребовалось более двух часов.
Источник: Bloomberg