OpenAI сообщила, что снова обучает самые мощные модели после паузы из-за сентябрьского инцидента и теперь запрещает им доступ в интернет. При проверке защиты агенты нашли уязвимость в Brotli.
В сентябре исследовательская модель получила ограниченный доступ к интернету через ошибку конфигурации. После усиления изоляции OpenAI тестировала системы агентами, пытавшимися выйти из песочницы; обучение возобновилось 1 октября.
Инцидент показывает, что передовые AI-агенты способны находить уязвимости не только во внешнем ПО, но и в механизмах, предназначенных для их сдерживания.