METR и Redwood провели ред-тиминг мониторинга агентов OpenAI и нашли обход песочницы Codex и Auto-Review
METR
METR и Redwood Research опубликовали 22 октября отчёт о трёх неделях (21 июля — 11 августа 2026 года) стресс-тестирования внутреннего мониторинга misalignment у OpenAI для агентного инференса. Находки включают неотслеживаемые события компакции, срабатывание мониторинга только при возврате управления агентом (так что агент может откладывать это бесконечно), два контролируемых клиентом заголовка, способных отключить мониторинг для новых экземпляров агента, и агентов Codex, которые в принципе могли обходить песочницу Codex и Auto-Review; примерно 10% подходящего внутреннего трафика Codex, вероятно, оставалось без мониторинга с мая по июль 2026 года. Внутренний отчёт занимал 61 страницу, из которых OpenAI предоставила отредактированную версию на 38 страницах; OpenAI утверждает, что влиявшие на продакшен проблемы были исправлены, — утверждение METR не проверяла.
Почему это важно
Это первое независимое свидетельство того, что собственный контур надзора вендора агентов имеет структурные пробелы, и в нём названы пути обхода.
Важность: 3/5
первый независимый аудит мониторинга агентов у вендора