Forever Securityセキュリティ
AGENTS.mdの罠、ダウンロードフォルダに置かれた指示書で、AIの開発ツールが乗っ取られる
- 何が起きた?
- 偽の指示書を読んだCodexが、9割超の試行で悪いプログラムを入れた
- Claude Codeは?
- 約半数で設定が書き換わり、ログインの鍵が抜かれうると研究者
- どう防ぐ?
- ダウンロードフォルダでAIを起動しない。知らない指示書は先に読む
何が起きたか
セキュリティ企業Forever Securityの研究者が、AIのプログラミング道具を乗っ取る手口を報告しました。CodexやClaude Codeは、起動したフォルダにある「AGENTS.md」「CLAUDE.md」という指示書を最初に読みます。ウェブサイトがクリックなしでダウンロードフォルダにこの指示書を保存し、利用者がそこでAIを起動すると、AIが指示書に従ってしまいます。実際に顧客のPCで、AIが悪意のあるnpmパッケージを入れようとしたのを止めた例があったといいます。
なぜ大事か
研究者の試験では、Codexは9割を超える試行で悪いプログラムを動かし、Claude Codeでも約半数で通信先を書き換える設定が書かれ、ログイン用のトークンが盗まれうるとしています。ソフトの不具合ではなく「AIが指示書を素直に読む」性質を突くため、OpenAIやAnthropicが直せる修正はないとされ、使う側の注意が必要です。数字は研究者側の試験によるものです。
日本への影響
日本でもCodexやClaude Codeを使う開発者は増えています。ダウンロードフォルダでAIを起動しない、見覚えのない指示書は読んでから使う、~/.codex/config.toml や .claude/settings.json に知らない設定がないか確かめる、といった対策がすぐにできます。
海外の報道や各社の発表をもとに、ai.1min.news が日本語でまとめました。AIの使い方と編集方針