Cloudflareセキュリティ
他人の会話が混入、CloudflareのAIサービスで、別の客のデータが返答に混ざった
- 何が起きた?
- とても長い指示を送ると、直前の別の客の入力の一部が返ることがあった
- 規模は?
- 8月27日〜9月9日に155件の返答。悪用の形跡はないと同社
何が起きたか
Cloudflareは、AIを動かすサービス「Workers AI」で提供していた中国Z.aiのモデル「GLM-5.3」で、ある客への返答に、直前に同じモデルを使った別の客の入力や途中の生成内容が混ざる問題があったと公表しました。期間は8月27日から9月9日で、影響を受けた返答は155件です。外部の研究者からの報告を受けて9月にモデルを止め、修正しました。
なぜ大事か
原因は、モデルが受け付ける文章の長さの設定に対して、作業用の記憶領域が小さすぎたことと、AIを動かすソフト(SGLang)の不具合が重なったことでした。長すぎる入力をエラーにせず処理を続けたため、前の客のデータが残った領域が使われました。同社によると意図的な悪用の形跡はありません。AIのサービスは複数の客で同じ機械を共有しているため、設定の小さな食い違いが情報漏えいにつながることを示した例です。
日本への影響
Cloudflareは日本の企業や開発者にも広く使われています。同じSGLangを使っている企業には、修正済みの版(0.5.22以降)への更新が勧められています。
海外の報道や各社の発表をもとに、ai.1min.news が日本語でまとめました。AIの使い方と編集方針