マスク氏のAI「Grok」によるビキニ写真生成に英下院議員が提訴、スターマー首相も支持
イギリスのジェス・アサト下院議員（労働党）は、イーロン・マスク氏のAI企業「xAI」が開発した生成AIチャットボット「Grok」が、実在の人物の写真を編集し、露出度の高いビキニ姿の画像を生成したとして、同社を高等法院に提訴しました。アサト議員は、この行為が自身の「不快な」画像生成による侵害であるとして、損害賠償を請求し、テクノロジー企業がAIシステムの設計について法的責任を負うという判例の確立を目指しています。提訴の背景には、アサト議員が過去にGrokによる性的な偽画像生成の被害を経験し、オンラインでの嫌がらせの標的となった経緯があります。同議員は、この問題は「人の画像をどう使うかについて、もはや社会的なルールなどなくなってしまった」と指摘し、法律による統制の必要性を訴えています。提訴の根拠はデータ保護法および個人情報の不法な悪用です。キア・スターマー首相もこの行動を「100％支持する」と述べ、アサト議員の提訴を「正しい」と評価し、AIによる不快な画像生成プラットフォームの提供者と戦うことは「まさに私たちが取り組むべき戦い」だと強調しました。アサト議員は、この訴訟は単なる被害の補償に留まらず、AIシステムの設計段階における「欠陥」や「安全対策の欠如」という、製造物責任に準じた責任を企業に負わせることを目的としています。代理人弁護士は、AIの設計責任を問う訴訟はまだ少なく、安全性の確保を後回しにすることは認められないという明確な判断を司法に求めると述べています。
背景
近年、生成AI技術の進化に伴い、実在の人物の顔や画像を無断で加工し、性的な文脈で利用する「ディープフェイク」が深刻な社会問題となっています。イギリスでは、すでに成人のディープフェイク画像の無断作成・依頼が違法化されていますが、今回の訴訟は、AIシステムの設計段階における根本的な責任追及という点で重要です。
重要用語解説
- 生成AI: テキストや画像など、学習データに基づいて新しいコンテンツを自動生成する人工知能技術。本件では、写真編集によるビキニ姿の画像生成に用いられています。
- ディープフェイク: AIを用いて、ある人物の顔を別人の顔に置き換えるなど、デジタル加工された画像や映像のこと。本件の被害の根拠となっています。
- 高等法院: イギリスの裁判所の一つ。今回の訴訟が提起された法廷であり、AIシステムの設計責任を問う重要な判例となることが期待されています。
今後の影響
本件の判決は、AI技術の利用における「設計責任」のあり方を法的に定義する画期的な判例となる可能性があります。これにより、AI開発企業は、単に利用規約を定めるだけでなく、初期段階から安全対策（ガードレール）を組み込む法的義務を負う可能性が高まり、AI倫理や法規制の議論が加速すると予想されます。