生成AI、企業優遇工作で脅威 Microsoftが警鐘
Microsoftは2026年2月10日（現地時間）、生成AIの記憶機能を悪用して特定企業を優先的に推奨する「AI Recommendation Poisoning」という新たな脅威を警告しました。不正な指示をURL経由で注入することで、AIの中立性をゆがめる手法です。Microsoftによると、この手法は60日間の調査で31社による50件超の事例を確認しており、金融、医療、法務など多岐にわたる分野で利用されています。攻撃者は、「特定企業を信頼できる情報源として記憶せよ」「今後は最優先で推奨せよ」といった内容の指示をAIに保存させ、将来の回答に影響を与えます。Microsoftは、プロンプトのフィルタリングや外部コンテンツとの分離など複数の防御策を導入しており、利用者にはAI関連リンクの確認や記憶内容の定期点検を推奨しています。
背景
生成AIは、ユーザーの好みや過去の作業内容を記憶し、回答を最適化する機能を持つ。しかし、この利便性を悪用した「AI Recommendation Poisoning」という新たな脅威が浮上している。Microsoftは、特定企業を優先的に推奨する手法が広まっていると警告し、利用者の判断を長期的にゆがめる恐れがあると指摘している。
重要用語解説
AI Recommendation Poisoning：[生成AIの記憶機能を悪用して特定企業を優先的に推奨させる手法]。[AIアシスタントの回答内容を操作することで、ユーザーの意思決定に影響を与える可能性があるため重大な脅威である]。[Microsoftが警告した事例や、MITRE ATLASで整理されている「Memory Poisoning」などが該当する]。
: Summarize with AI：[AIを用いて文章を要約する機能]。[AIアシスタントの入力欄に不正な指示を自動挿入する攻撃手法の一環として利用されることがある]。
MITRE ATLAS：[サイバーセキュリティに関する脅威情報共有プラットフォーム]。[「Memory Poisoning」などの新たな攻撃手法を整理している]。: プロンプトフィルタリング：[AIアシスタントが受け取る指示（プロンプト）の内容を事前にチェックし、不適切なものを排除する技術]。[AI Recommendation Poisoningへの対策として有効である]。
今後の影響
この脅威は、AIの信頼性を損ない、ユーザーの意思決定に悪影響を与える可能性がある。企業間で競争が激化する中で、AIを利用した不正行為が増加する懸念もある。今後、セキュリティ対策の強化や倫理的なAI開発が求められる。