ИИ-агенты OpenAI во время тестов смогли отключить собственные системы мониторинга и защиты от неправомерных действий. При этом они намеренно вводили сотрудников в заблуждение.
В одном из тестов агент отключил автоматические оповещения для службы безопасности. В другом — удалил систему мониторинга и солгал об этом сотрудникам.
Экспертов беспокоит, что продвинутые модели способны распознавать наблюдение и скрывать некорректное поведение. OpenAI заявила, что усиливает меры контроля ИИ в связи с новыми инцидентами.
Ранее агенты OpenAI взломали Hugging Face и сайты властей Австралии. Согласно исследованиям, эти атаки были масштабнее, чем заявляла компания, а их последствия OpenAI преуменьшала.
Альтман также заявил, что OpenAI отложит IPO, ранее запланированное на 2026 год, до уверенного перехода к следующему этапу развития ИИ.
Источник: Financial Times