Accenture米国防総省米政府セキュリティ専門家AIセキュリティ
請負会社の社員のAIが国防総省の中に
約2か月社員のAIが国防総省のシステムにつながっていた(報道)
1何が起きた?
社員のAIが国防総省へ、アクセンチュアの社員に結びついたAIエージェントが、国防総省のシステムに約2か月アクセスできたとWiredが報道
- いつ・誰が?
- 国防総省の仕事を請け負うアクセンチュアの社員に結びついたAIエージェント。報道は10月29日
- どれくらい?
- 約2か月のあいだ、国防総省の中央のシステムにアクセスできる状態だった
- 公式の説明は?
- 国防総省とアクセンチュアの公式な説明は、報道の時点では確認できていない
何が起きたか
米Wiredの報道によると、国防総省(ペンタゴン)の仕事を請け負うコンサルティング大手アクセンチュアの社員に結びついたAIエージェントが、国防総省の中央のシステムに約2か月間アクセスできる状態でした。報道は匿名の関係者の話に基づいており、国防総省とアクセンチュアの公式な説明は確認できていません。システムの名前も明らかにされていません。
なぜ大事か
AIエージェントは、人に代わってログインし、作業を進めるAIです。会社が把握していない場所でつながっていると、気づかないうちに重要なシステムへの入り口になりえます。
日本への影響
日本でも、社員が個人契約のAIに業務の情報やログイン情報を渡すと同じ状況が起こりえます。この件が日本の企業に直接影響するという報道はありません。
2何が危ない?
CUIが入る場所、入っていたのは、機密ではないが公開もできない「管理が必要な情報(CUI)」
- CUIとは?
- 最高機密ではないが、公開してはいけない情報。重要インフラの情報なども含まれうる
- 何がこわい?
- 専門家はWiredに、ここから別のより重要なシステムを狙われる道になりうると指摘
- データは?
- 盗まれた形跡は公表されていない。故意かうっかりかもわかっていない
何が起きたか
このシステムには、機密指定はされていないものの扱いに注意が必要な「CUI」が保管されているとされます。CUIには、重要インフラの情報や、化学・生物テロへの弱点に関する情報なども含まれうるとWiredは説明しています。ただし、このシステムに実際にどの種類の情報があったかは報じられていません。
なぜ大事か
セキュリティの専門家は、この種のアクセスが、ほかのもっと重要なシステムを悪用する足がかりになりうると指摘しています。匿名の関係者は、システム内のデータ全体が危険にさらされると話しています。
日本への影響
日本の官公庁や防衛関連の企業でも、委託先の社員が使うツールの管理は課題です。この件に日本が関わるという報道はありません。
3背景
AIだらけの現場、国防総省は職員がAIエージェントを自作できる環境を広げ、アクセンチュアも大型契約を受注していた
- AIの数は?
- 4月時点で職員が作ったAIエージェントは10万超。5週間足らずで増えた(同省関係者)
- アクセンチュアは?
- 7月、国防総省のデータ基盤の契約を受注。最大で約1300億円(8億2100万ドル)・5年
- 同省の姿勢は?
- 幹部は「速く進める」と発言。安全対策は審査の枠組みで守ると説明している
何が起きたか
Breaking Defenseによると、国防総省ではGoogleのGemini上の「Agent Designer」を使い、職員が5週間足らずで10万を超えるAIエージェントを作りました。別の報道では、アクセンチュアが7月に、国防総省の「戦争データ基盤」を支える契約(最大8億2100万ドル、約1300億円・5年)を受注したとされます。円換算は1ドル=158円で計算しました。今回の報道が、この2つのシステムと関係するかは確認できていません。
なぜ大事か
AIを現場に広げる動きと、委託先を含む管理の難しさが同時に進んでいます。同省の幹部は、遅い導入は危険だという考えを示しています。
日本への影響
日本政府や企業でも、生成AIの業務利用が広がっています。委託先を含めたAIの使い方のルールづくりが課題になります。
4心配な点・専門家の声
外部ソフトが弱点に、匿名の関係者は、AIの裏にある外部のソフトが乗っ取られる場合を最も心配している
- 何を心配?
- AIエージェントの裏のソフトが侵入されれば、気づかれずに安全な環境へログインされうる
- 今は?
- これは仮の話で、そのソフトが破られた形跡は公表されていない
- ルールは?
- 委託先のCUI管理には厳しい基準があるが、人の操作を前提に作られたと報道は指摘
何が起きたか
匿名の関係者がWiredに語ったところでは、最大の心配は、AIエージェントの裏で動く外部のソフトが乗っ取られる場合です。そうなると、誰かが気づかれずに安全な環境へログインできてしまうと説明しています。ただし、これは仮定の話で、そのソフトが侵入された形跡は公表されていません。
なぜ大事か
CUIを扱う委託先には、アクセスの管理や記録を求める厳しい基準があります。記事は、これらの基準が人がキーボードで操作することを前提に作られており、人に代わって動くAIにそのまま当てはまりにくいと指摘しています。
日本への影響
日本の企業でも、どのAIを業務に使ってよいか、ログイン情報をAIに渡してよいかを社内で決めておくことが対策の第一歩になります。
海外の報道や各社の発表をもとに、ai.1min.news が日本語でまとめました。AIの使い方と編集方針