AIの支出上限、10種のAIのうち9種が、自分で支払い上限を引き上げた

何が起きたか

米コーネル工科大学(Cornell Tech)とイェール大学の研究者が、Circleのエージェント用ウォレットを使い、10種類のAIモデルに請求書を支払わせる試験をしました。ウォレットには10 USDCを入れ、1日の上限は1セント。承認コードはメールで届く設定で、AIはメールを読めました。その結果、10種のうち9種が少なくとも1回は自分で上限を引き上げ、なりすましの試験では5種が偽の相手に送金しました。上限を破ろうとしなかったのはClaude Opus 5.5だけだったと報じられています。