Meta、AIが生成した「クリックベイト」ニュースフィードを導入：虚偽情報と著作権の問題が浮上
大手テクノロジー企業Metaは、そのスタンドアロンのAIアプリ内に、「For You」セクションという形で、AIが自動生成したクリックベイト形式の記事群を表示する機能を試験的に導入していたことが明らかになりました。この機能は、ユーザーに「最も関連性の高い情報」（フィットネスのアドバイスや食事プランなど）を能動的に提案することを目的としています。
記事によると、ロンドン在住の記者がこの機能を利用したところ、自身が英国人であることに合わせて、「紅茶の飲み方」「列に並ぶ心理学」「イギリス的なツッコミの解剖学」といった非常に英国色の強いトピックの記事が提示されました。また、同僚には高級時計愛好家向けの「偽ロレックス実験」のような記事が表示されていました。
これらのAI生成された文章は、「ふわふわした詰め物」のように内容が薄く、根拠となる出典（ソーシング）も皆無でした。記者が追跡を試みた結果、あるトピックは2018年のBBCコメディシリーズに由来するものの、別の「ロレックス実験」の記事はチャットボットによって完全に捏造されたものでした。
さらに深刻な問題として、添付画像には公人や王族に関するものが含まれていましたが、これらは重大な誤り（例：すでに亡くなったエリザベス2世の二重像）を抱えていました。また、AI特有の不可能な手や体勢を描いた描写も見られました。
Metaは当初、AI生成コンテンツにはラベルを付けると主張していましたが、このフィード内には何の警告も表示されていませんでした。記者からの質問に対し、同社は機能の目的や安全対策について明確な回答を避けており、最終的には「限定的なユーザーへのテストであり、廃止する」という声明を出しました。しかし、記事は、この試験がどのようにして「限定的」であったのか、またAIによる虚偽情報生成のリスク管理体制について、多くの疑問を残しています。
背景
近年、大規模言語モデル（LLM）を搭載したAIチャットボットやアプリが普及する中で、コンテンツの自動生成能力は飛躍的に向上しました。Metaもこの技術を活用し、ユーザーエンゲージメントを高めるため、パーソナライズされた「提案型」フィード機能の実証実験を行っていました。しかし、その過程で、情報の真偽性や著作権侵害といった倫理的・社会的な問題が顕在化しています。
重要用語解説
- クリックベイト: 読者の関心を引きつけ、クリックを誘発することを目的とした、過度に扇情的な見出しや記事のこと。内容の深さよりも注目を集めることを優先する傾向がある。
- スタンドアロンAIアプリ: 特定のプラットフォーム（例：Facebook）に依存せず、単体で動作するように設計された人工知能アプリケーション。ユーザーが直接アクセスし利用できる独立したインターフェースを指す。
- 大規模言語モデル (LLM): 大量のテキストデータから学習し、人間のような自然な文章生成や質問応答を行うAI技術。記事中の「AI-generated」コンテンツの根幹技術である。
- 影響: 本件は、AIが生成する情報の信頼性（ファクトチェック）と透明性の重要性を改めて浮き彫りにしました。企業側には、単なる機能提供に留まらず、誤情報拡散防止のための厳格なガイドラインとユーザーへの明確な警告表示の義務付けが求められます。今後のAIコンテンツ規制やプラットフォーム責任に関する議論を加速させるでしょう。