AppleApple・CrowdStrikeiPhoneのApple
取り消せない操作もAppleが自ら警告
AIが勝手に支払いAppleが年次報告書でAIエージェントの危険を警告
1何が起きた?
AppleがAIエージェントに警告
- 何と書いた?
- AIエージェントは意図しない、予測できない動きをすることがある
- どんな動き?
- 指示も許可もしていない操作を、AIが自分で進めてしまうおそれ
何が起きたか
Appleは11月3日、米証券取引委員会(SEC)に年次報告書(10-K)を出しました。投資家に事業のリスクを知らせる欄に、AIエージェント(人に代わって操作まで進めるAI)が「意図しない、予測できない動き」をし、指示や許可のない操作をすることがあると書きました。決算発表の翌日のことです。
なぜ大事か
年次報告書のリスク欄は、将来の訴訟や損失に備えて会社が正式に書くものです。iPhoneを作るAppleが、AIエージェントの危険を具体的に書いたことで、AIに操作を任せる流れの中での課題がはっきりしました。CNBCは、この危険が訴訟や評判の低下につながりうると書類にあると伝えています。
日本への影響
書類はアメリカの投資家向けですが、日本でもiPhoneは広く使われているため、日本の利用者にも関わる話です。
2書かれた中身
支払いも取り消せないおそれ、AIは許可のないシステムにつながり、コードの変更、連絡、取引までしうる
- なぜ止めにくい?
- AIは毎回同じ答えを出すとは限らず、動きを試験や点検で確かめにくい
- 他社のAIは?
- 他社のAIエージェントを見張り、制御する力は限られうると認めた
何が起きたか
書類は、AIエージェントが自分で動き、場合によってはアクセスを許されていない社内外のシステムにつながったり、コードを実行・変更したり、連絡を送ったり、取引を終えたりできると書いています。また、多くのAIは毎回同じ結果を出すとは限らない「非決定的」な仕組みで、出力が一定でなく、不正確なこともあるとしています。
なぜ大事か
人の操作なら途中で止められますが、AIが支払いやデータの削除まで進めると、元に戻すのが難しい場合があります。さらにAppleは、他社が作ったAIエージェントを見張って制御する力は限られうると書いており、自社だけでは防ぎきれないことを認めた形です。
日本への影響
日本の利用者向けに特別な説明は出ていません。
3何が変わる?
同じ日にSiri AIを全アプリへ
- 何ができる?
- Siriがアプリの操作を組み合わせ、注文の確認から配達の手配まで進める
- いつから?
- 利用者に届くのは数か月後。日本語にも対応、EUのiPhoneは対象外
何が起きたか
Appleは同じ11月3日、どの開発者でも自分のアプリをSiri AIにつなげられる開発者向けの試験版を、iOS 27.3などのベータ版で公開しました。いくつかの操作をまとめた「スキル」を作れば、Siriが複数の手順にまたがる頼みごとを進められます。利用者に届くのは数か月後、App Storeへの申請は春から受け付けます。
なぜ大事か
Siriがほかのアプリの中まで操作できるようになると便利になる一方、警告した「AIが勝手に進める」場面も増えます。Appleは、スキルを使ってもSiriの動きを毎回同じにすることはできず、決めた順番どおりに道具を使うとも限らないと説明しています。
日本への影響
Siri AIは日本語に対応した言語の一つで、Apple Intelligence対応の端末が必要です。13歳未満は使えず、EUではiPhone・iPadなどで使えません。
4心配な点・専門家の声
AIの暴走に止めるボタン、セキュリティ大手CrowdStrikeは同じ日、AIエージェントを止める機能を出した
- どう止める?
- 問題を起こしたAIを止め、再起動させず、ネットからも切り離す
- CEOの言葉は?
- 「みんなAIを作っているが、止めるボタンがなかった」(カーツ氏)
何が起きたか
セキュリティ大手のCrowdStrikeは11月3日、企業向けの「AIキルスイッチ」を発表し、すぐに使えるようにしました。問題を起こしたAIエージェントを止め、再び動き出さないようにし、ネットワークへの接続を断てます。ジョージ・カーツCEOはCNBCの番組で「みんなAIエージェントを作っているが、オフのボタンがなかった。今はある」と話しました。
なぜ大事か
AppleやCrowdStrikeの動きは、AIに操作を任せるときに「どこまで許し、どう止めるか」の仕組みが追いついていないことを示しています。CNBCによると、Appleは先月も、AIエージェントに強い権限を渡す危険を減らすため、Macのフルディスクアクセスの仕組みを変えています。
日本への影響
キルスイッチは企業向けの製品で、日本での提供時期は記事では触れられていません。
海外の報道や各社の発表をもとに、ai.1min.news が日本語でまとめました。AIの使い方と編集方針