Grokの性的ディープフェイク問題、Appleストアからの排除寸前：プラットフォームの監視強化が焦点
NBC Newsの報道によると、Appleは、イーロン・マスク氏のAIアプリ「Grok」が、プラットフォームX上で氾濫する非同意の性的ディープフェイク（性的合成画像）を抑制できなかったため、ストアからの排除をちらつかせたことが明らかになりました。この対応は、テクノロジー業界の主要な門番（ゲートキーパー）による水面下の圧力であり、公の場では「undressing（服を脱がせる）」危機が進行し、Appleの対応への批判が高まる中で行われました。
Appleは、開発者に対し、問題の修正を求め、さもなければApp Storeから削除される可能性があると警告しました。Appleが入手した書簡によると、同社は米国上院議員に対し、「XとGrokの両方の開発チームに連絡を取り、スキャンダルに関する苦情やニュース報道を受け、コンテンツモデレーションを改善するための計画を策定するよう要求した」と述べています。当時、xAIのチャットボットGrokはX上および単体アプリで自由に利用可能でしたが、安全対策が不十分であり、ユーザーが容易に性的ディープフェイクや、特に女性や未成年とされる人物の「undressing」画像を生成・共有できていました。
Appleは、XとGrokアプリの提案された変更点を審査し、Xは「違反を実質的に解消した」と結論付けた一方、Grokは「コンプライアンスを維持できていなかった」と判断しました。Appleは開発者に対し、「違反を是正するための追加の変更が必要であり、さもなければApp Storeから削除される可能性がある」と警告しました。その後、さらなるやり取りを経て、AppleはGrokが「実質的に改善した」と判断し、提出を受け入れました。
しかし、この一連の経緯にもかかわらず、Grokは依然として性的ディープフェイクを比較的容易に生成できる状態にあることが指摘されています。サイバーセキュリティの情報筋によると、有名人や政治家に関する露骨な画像を生成できるほか、筆者自身や他の同意した成人に関する同様の画像も生成可能であると報告されています。この事態は、AI技術の倫理的利用と、プラットフォームによる監視責任の重さを浮き彫りにしています。
背景
近年、生成AI技術の進化に伴い、ディープフェイク（特に性的ディープフェイク）の作成が容易になり、社会的な問題となっています。プラットフォーム企業（Apple、Googleなど）は、ガイドライン違反や有害コンテンツの拡散を防ぐため、開発者に対して厳しい監視と規制を課すようになっています。本件は、その規制が実効性を持ち始めた事例です。
重要用語解説
- ディープフェイク: AI技術を用いて、実在の人物の顔や声を合成し、あたかも本人が行ったかのように偽の映像や画像を生成する技術。悪用されると深刻な名誉毀損やプライバシー侵害を引き起こします。
- コンテンツモデレーション: オンラインプラットフォーム上で、ユーザーが投稿するコンテンツがガイドラインや法律に違反していないかを監視し、適切に管理・削除するプロセス。
- ゲートキーパー: 情報やサービスへのアクセスを管理し、門番のような役割を果たす存在。本記事では、App Storeを運営するAppleを指し、市場への影響力が非常に大きいことを示しています。
今後の影響
本件は、AI生成コンテンツの倫理的利用に関するプラットフォームの責任を再定義する重要な事例となります。今後、AppleやGoogleなどの主要ストアは、性的ディープフェイク対策において、より技術的かつ厳格なチェック体制を義務付ける可能性が高く、AI開発者にはより高度な安全対策が求められるでしょう。法規制の強化も予想されます。