ポエのX投稿がAI生成疑惑で浮上：オンライン情報の信頼性問題が深刻化
AI検出ツールが、オンライン上の情報の信頼性に関する深刻な問題を指摘している。Pangram Labsが開発したAI検出ソフトウェアは、Redditの掲示板r/AmItheAssholeに投稿された「義母の子供の世話を拒否した」という家庭内の不和に関する物語が、AIによって生成されたものであると指摘した。このツールは、99.98%の精度と1万分の1という低い誤検出率を謳っている。
さらに、同社のCEOであるマックス・スペロ氏によると、AIによって生成された「スロップ（質の低いコンテンツ）」はオンライン上に蔓延しており、スタンフォード大学らによる研究（2025年発表）では、新規ウェブサイトの3分の1以上がAIによって生成されたテキストを含んでいることが判明している。この問題はジャーナリズムやソーシャルプラットフォーム全体を蝕んでいる。
特筆すべき事例として、ローマ教皇の公式Xアカウント（@Pontifex）の投稿が挙げられている。教皇がAIの危険性について語るスレッドの一部は人間が書いたと判定されたものの、その後のAIが精神や社会構造に与える影響に関する3つの投稿は、AI生成とフラグが立てられた。スペロ氏は、教皇が自身でアカウントを運用しているわけではなく、AIが利用されていることは明らかだと指摘している。
この検出ツールは、Reddit、X、LinkedIn、Medium、Substackなど複数の主要なソーシャルサイトの投稿をリアルタイムでスキャンし、人間、AI生成、またはAI支援によるドラフトと分類する有料サービス（月額20ドル）を提供している。これにより、ユーザーは日常的に目にする情報がどれだけAIによって生成されているかを把握でき、読者がより批判的かつ懐疑的になるきっかけを提供すると期待されている。
背景
近年、生成AIの進化に伴い、オンラインコンテンツの大量生産と質の低下が深刻な社会問題となっている。AI検出ツールの登場は、情報の真偽を見極める新たな手段を提供したが、同時に「AIによる偽情報」が社会の信頼性を揺るがすという懸念も高まっている。
重要用語解説
- AI検出ツール: AIによって生成されたテキストを識別するソフトウェア。Pangram Labsのツールは、高い精度と低い誤検出率を謳い、オンラインコンテンツの信頼性検証に利用されている。
- r/AmItheAsshole: Reddit上の有名な掲示板の一つ。ユーザーが個人的な人間関係のトラブルやジレンマを投稿し、匿名でアドバイスを求める場所。エンゲージメントを誘う虚偽の投稿がされることがある。
- スロップ（Slop）: 質の低い、大量生産されたコンテンツの総称。特にAIによって大量に生成され、オンラインの情報空間を埋め尽くす、価値の低いテキストや記事を指す専門用語。
今後の影響
本ツールが普及することで、ユーザーは日常的に目にする情報源に対してより高い警戒心を持つようになり、フェイクニュースやAIによる虚偽情報への耐性が向上する可能性がある。しかし、AIの利用が一般化する中で、検出ツール自体が「真実」の定義を巡る新たな議論を巻き起こす可能性もある。