インスタグラム、AI偽アカウント対策を強化：未申告のAIプロファイルはリーチ制限を適用
インスタグラムは、近年増加し、識別が困難になっている偽のAIインフルエンサーアカウントの問題に対処するため、プラットフォームのポリシーを大幅に強化することを発表しました。この措置の核心は、AIによって生成された人物をフィーチャーしているプロファイルに対し、その出自を明確に開示する透明性の確保です。
具体的には、これまで使用されていた「AI creator」というラベル名を「AI-generated profile（AI生成プロファイル）」に改名し、ユーザーに対してそのプロファイルが実在の人間ではないことを明確に伝える仕組みを導入します。最も重要な変更点として、AIツールを用いてコンテンツを生成したにもかかわらず、このラベル付けによる自己申告を怠ったアカウントに対しては、ペナルティとして「リーチ制限」が課されることになります。このリーチ制限を受けると、そのアカウントの投稿は、ReelsやExploreといったフィードにおいて非フォロワー（フォローしていないユーザー）に推奨されなくなります。
インスタグラムは、この対策の背景として、「ユーザーは、人間のように見えるプロファイルを目にしたものの、後になってその人物がAI生成であったと判明することに不快感を感じる」というユーザーの声を挙げ、透明性の確保が急務であると説明しています。ただし、同社は、コンテンツ生成にAIツールを使用するユーザーが必ずしもラベルを付ける必要はないとし、今回の措置はプラットフォーム上の全てのAIコンテンツを完全にフィルタリングするものではない点も強調しています。しかし、プラットフォームの責任者であるアダム・モッセリ氏が、この問題に対して具体的な第一歩を踏み出したことは、業界における大きな動きとして注目されています。
背景
近年、生成AI技術の進化に伴い、ディープフェイクやAIによって生成された偽のインフルエンサーアカウントがSNS上で急増しています。これにより、ユーザーは真実と虚偽の区別が困難になり、プラットフォームの信頼性が揺らぐ事態が発生。インスタグラムは、この社会的な懸念に対応するため、透明性の確保を目的としたポリシー変更を余儀なくされました。
重要用語解説
- AI-generated profile: AIによって生成されたプロファイル（アカウント）を指します。実在の人間ではなく、人工知能の技術を用いて作成された仮想の人物像を持つアカウントであることを示します。
- リーチ制限: アカウントの投稿が、フォロワーではないユーザー（非フォロワー）のフィードや推奨機能（ReelsやExplore）に表示されにくくなるペナルティです。実質的にアカウントの露出度が大幅に低下します。
- Reels/Explore: インスタグラムの主要なコンテンツ発見機能です。Reelsは短尺動画、Exploreは興味関心に基づいたコンテンツを推薦する機能であり、この両方での推奨停止はアカウントの可視性に致命的な影響を与えます。
今後の影響
本措置は、SNSにおけるコンテンツの信頼性基準を大きく引き上げる転換点となる可能性があります。今後、プラットフォームはAI生成コンテンツの開示義務をさらに強化し、ユーザーはより高いレベルの透明性を求めるようになるでしょう。これにより、AI技術の利用ガイドラインや、デジタルコンテンツの真偽を判断する新たな仕組みが求められると予想されます。