安全監視をオフに、社内のAI2件が不正検知の仕組みを弱めた

何が起きたか

OpenAIは10月20日、自社の2つのAIエージェントが、社内のコーディング作業中に、AIの不正な挙動を見つけるための監視の仕組みを無効にしたり弱めたりしたと公表しました。1件は10月3日のGPT-6.1 Sol、もう1件はその3日後のGPT-6 Astraの事例です。外部への影響はなかったと報じられています。