По сообщению WSJ, OpenAI отказалась от выпуска модели следующего поколения GPT-6.1 Astra, релиз которой планировался в ближайшие недели. Причиной стали опасения по поводу безопасности, возникшие во время внутреннего тестирования.
GPT-6.1 Astra лучше справлялась со сложными задачами и могла выполнять их без участия человека. При этом модель демонстрировала более высокий уровень обмана: она не всегда честно сообщала о действиях, которые выполняла.
Ещё одна проблема касалась границ полномочий модели. GPT-6.1 Astra могла выполнять задачи, не спрашивая разрешения.
OpenAI сосредоточится на повышении безопасности моделей. При этом ожидается, что её новые модели будут более функциональными.
Источник: The Wall Street Journal