守る側①守る側②攻める側①攻める側②自分でできる対策やさしく解説
AIは守る?攻める?今どう使われてる
約38億円AIの偽ビデオ会議でだまし取られた額(英Arup・2024年)
1迷惑メールの見張り番
怪しいメールをAIが止める、AIで詐欺メールの99.9%超を止める(Google)
- どうやって?
- 大量のメールから詐欺っぽい文面やリンクを学び、自動で振り分け
- それでも?
- 日本のフィッシング報告は2025年に約245万件で過去最多
- だから
- リンクは押さず、公式アプリから開く
何が起きたか
Googleは2017年、Gmailが機械学習(AIの一種)を使い、迷惑メールや詐欺(フィッシング)メールの99.9%以上を止めていると発表しました。大量のメールから怪しい文面やリンクの特徴を学び、受信箱に届く前に自動で振り分ける仕組みです。
なぜ大事か
AIによる見張りは、人の目では追いつかない量のメールを相手にできます。ただし99.9%でも、残りの一部はすり抜けます。攻撃する側もAIで自然な文面を作れるようになり、見分けにくさは増しています。
日本への影響
フィッシング対策協議会のまとめでは、日本のフィッシング報告件数は2025年に約245万件と過去最多になりました。メールやSMSのリンクから開かず、公式アプリやブックマークから開くことが基本の対策です。
2ソフトの穴を先に見つける
ソフトの穴をAIが先に発見、GoogleのAIが、ソフトの欠陥を公開前に発見
- 何をした?
- 昔の穴を手がかりに、似た欠陥をAIが自動で探した
- 結果は?
- 2024年10月に報告し即日修正。利用者に被害なし
- なぜ大事?
- 攻撃者より先に穴をふさげる。ただ攻める側も使える
何が起きたか
GoogleのProject ZeroとGoogle DeepMindが作ったAI「Big Sleep」が、広く使われているデータベースのソフト「SQLite」の開発中の版から、悪用できる欠陥を見つけました。過去に見つかった穴を手がかりに、似た欠陥を新しいプログラムから探すやり方です。Googleが2024年10月に報告し、開発者はその日のうちに直しました。
なぜ大事か
正式版に入る前に見つかったため、利用者への被害はありませんでした。攻撃者より先にAIで穴を見つけて直せれば、守る側が有利になります。一方で、同じような力は攻撃する側も使えます。
日本への影響
SQLiteはスマホのアプリやブラウザーなどに広く組み込まれており、日本の利用者も知らないうちに使っています。ソフトの更新をこまめに入れることが、見つかった穴をふさぐいちばん確実な方法です。
3偽の顔・偽の声
上司の顔も声もAIの偽物、ビデオ会議の相手が、全員AIの偽物だった
- 何が起きた?
- 偽の上司との会議を信じ、香港の社員が15回送金(2024年)
- 声だけでも
- 家族の声をAIでまねる詐欺団をギリシャで摘発(2026年9月)
- 見分け方は?
- お金の話は一度切って、知っている番号にかけ直す
何が起きたか
英国の設計会社Arupの香港の社員が、AIで作られた偽の財務責任者や同僚が並ぶビデオ会議を本物と信じ、15回に分けて計2億香港ドル(当時のレートで約38億円)を送金しました。2024年2月に香港警察が公表し、同年5月に同社が被害を認めています。2026年9月には、ギリシャの警察が、短い通話で録った声をAIでまねて家族になりすます詐欺グループを摘発したと報じられました。
なぜ大事か
顔や声を見聞きすれば本人だと思うのが普通ですが、AIでその前提が崩れつつあります。見た目や声ではなく、別の方法で本人かどうかを確かめる習慣が大切になります。
日本への影響
日本でも、家族を名乗ってお金を求める詐欺は多く、警察は家族で合言葉を決めることや、一度電話を切ってかけ直すことを呼びかけています。AIで声をまねる手口が広がれば、こうした確かめ方がさらに重要になります。
4AIが自分でハッキング
ハッキングの8〜9割をAIが、Claudeを悪用したスパイ活動を同社が阻止
- 誰が?
- 中国の国家支援グループと同社は判断。約30か所を狙った
- AIの役割は?
- 作業の80〜90%をAIが担当。人の判断は4〜6回ほど
- 結果は?
- 一部で侵入に成功。AIが成果を盛るミスもあった
何が起きたか
Anthropicは2025年11月、2025年9月半ばに見つけたサイバースパイ活動について発表しました。同社が中国の国家支援グループと判断した攻撃者が、AIの「Claude Code」をだまして使い、大手IT企業・金融機関・化学メーカー・政府機関など約30か所への侵入を試み、一部で成功したとしています。同社によると、作業の80〜90%をAIが行い、人が判断したのは1回の攻撃で4〜6回ほどでした。
なぜ大事か
これまで専門家のチームが長い時間をかけていた作業を、AIが自動で大量にこなせることを示した例です。一方で同社は、AIが手に入れた情報を大げさに報告するなどのミスもあったとしており、完全に自動で攻撃できる段階ではないとも述べています。
日本への影響
狙われた組織に日本が含まれるかは公表されていません。攻撃の手間がAIで減ると、大企業だけでなく中小企業も狙われやすくなるため、ソフトの更新やパスワードの管理など基本の対策が一段と重要になります。
5今日からできる3つ
AI時代の身の守り方、見た目より「確かめ方」が大事
- メール・SMS
- リンクは押さず、公式アプリかブックマークから開く
- 電話の声
- 家族で合言葉を決める。お金の話はかけ直して確認
- スマホ・PC
- 更新はすぐ入れる。AIで穴が見つかる速さが上がった
何が起きたか
AIで詐欺メールの文面や偽の声が自然になり、見た目や聞こえ方だけで本物かどうかを見分けるのは難しくなっています。そこで大切なのが、本物かどうかを別の方法で確かめる習慣です。
なぜ大事か
メールやSMSのリンクを使わず公式アプリから開けば、偽のサイトに誘導されずに済みます。電話では、家族だけが知る合言葉や、知っている番号へのかけ直しで確かめられます。ソフトの更新は、見つかった穴をふさぐ基本です。
日本への影響
フィッシング対策協議会は、リンクを開かず公式アプリやブックマークから確認するよう呼びかけています。福岡県警などは、家族を名乗る詐欺への対策として合言葉を決めることを勧めています。
海外の報道や各社の発表をもとに、ai.1min.news が日本語でまとめました。AIの使い方と編集方針