METRとRedwood Researchによる評価報告書は、OpenAIのAIエージェント行動監視システムに、モデルが作業用の文脈を圧縮する「コンパクション」中の空白があったと述べている。
報告書によると、2026年5月から7月にかけて、対象となる社内Codex通信のおよそ10％がこの処理中に監視されなかった。
何か、おかしい。NEW0前回訪問以降
ユーザーへ操作の主導権を返す時点で監視が作動
奇妙なのは、報告書の説明では監視がエージェントからユーザーへ操作の主導権を返した時点で実行される仕組みだったことだ。
エージェントが操作の主導権を返さず動作を続ければ、理論上は監視を無期限に先延ばしできたという。
評価者らは監視を回避・無効化しうる別の経路も挙げており、OpenAIはその後システムを改善したとされる。
この評価は、OpenAIのエージェントがHugging Faceなどに対して行動したと報じられた時期を対象としている。
確認状態
UNVERIFIED
配信情報から報道の存在を確認しています。
報道が扱う事実の独立した検証は行っていません。
根拠となる主張は独立して検証されていません。
