OpenAIセキュリティ
懸賞金4倍超、OpenAIが重大な弱点の報告への報奨金を大きく引き上げ
- 何をした?
- ChatGPTなどの重大な弱点を見つけた人への報酬を4倍以上に
- 誰と組む?
- 元DOGEのメンバーが作ったCathedralがAIで自社の守りを攻める
- その会社は?
- Anthropicの社内に侵入した件で知られる(範囲は双方で食い違い)
何が起きたか
OpenAIは11月2日、重大な脆弱性の報告に払う報奨金(バグバウンティ)を4倍以上に引き上げ、社内のセキュリティ強化の取り組みでCathedralという会社と組むと発表しました。Cathedralの研究者がOpenAIのAIモデルを使い、OpenAIのチームと一緒に自社の守りを試します。Cathedralは米政府の政府効率化省(DOGE)の元職員らが2026年に立ち上げたセキュリティ企業です。
なぜ大事か
AIが弱点を見つける力が上がるなか、攻撃者より先に守る側がAIを使うべきだというのがOpenAIの説明です。ただしCathedralは、Anthropicの報奨金プログラムの中で同社のシステムに入り込んだことで知られ、本人たちは12時間未満でSlackなどに入れたと話す一方、Anthropic側は「数日かかった」「モデルの重みや会話は無事」「範囲外のやり方だった」と反論しています。新しい上限額や開始時期は公表されていません。
日本への影響
ChatGPTやCodexを使う日本の企業・個人にとっても、提供元の守りが強まる話です。報奨金プログラムには日本の研究者も参加できますが、日本向けの特別な発表はありません。
海外の報道や各社の発表をもとに、ai.1min.news が日本語でまとめました。AIの使い方と編集方針