Anthropic、中国AI企業のClaude能力不正抽出を非難
AIチャットボット開発企業Anthropicが、中国に拠点を置くAI企業DeepSeek、Moonshot、MiniMaxが自社のモデルClaudeの能力を不正に抽出しているとしてブログで非難しました。Anthropicによると、これらの企業は合計約24,000人の不正アカウントを通じてClaudeとべ1600万回以上のセッションを行い、利用規約および地域アクセス制限に違反したとのことです。問題となっているのは「蒸留」と呼ばれる手法で、より能力の高いモデルの出力を用いて自社のモデルを学習させるものです。Anthropicは蒸留が正当なトレーニング手法である一方で、不正な目的にも利用されることがあると指摘しています。DeepSeekはClaudeの推論能力やポリシーに関わる機密性の高いクエリに対する検閲回避策などを標的にし、Moonshotはエージェント推論やツールの使用など幅広い分野を対象に、MiniMaxはコーディングやツール使用に焦点を当てていました。Anthropicはこれらの企業がClaudeの能力を不正に抽出することで自社のモデル開発を加速させていると主張しています。
背景
Anthropicは、AIチャットボットClaudeを開発する企業です。近年、AI技術の進化に伴い、モデル間の能力抽出（蒸留）が問題視されています。今回の事件は、中国のAI企業がAnthropicのClaudeの能力を不正に抽出し、自社のモデル開発に利用しようとした事例として注目されています。
重要用語解説
蒸留(Distillation): より強力なAIモデルの出力結果を用いて、学習コストを抑えつつ性能の高いモデルを構築する手法。正当な用途と不正な用途の両方が存在する。
[重要性: 高]
[具体例: AnthropicがClaudeの能力を抽出するために使用された]
ロードバランシング(Load Balancing): 複数のサーバーにトラフィックを分散させることで、システム全体の負荷を軽減し安定性を向上させる技術。不正な目的で利用される場合、検出を回避するための手段として用いられることがある。
[重要性: 中]
[具体例: DeepSeekがClaudeとのセッションを複数アカウント間で分散させてロードバランシングを行った]
思考の連鎖(Chain-of-Thought): AIモデルが問題解決のために、各ステップを明確に記述し、論理的な推論過程を示す能力。
[重要性: 中]
[具体例: DeepSeekがClaudeに対して思考の連鎖を引き出すプロンプトを用いて学習データを作成した]
ヒドラクラスター(Hydra Cluster): ネットワーク構成が分散型で、単一障害点が存在しないアーキテクチャ。不正なアクセスや検出を回避するために利用されることがある。
[重要性: 高]
[具体例: 中国からのClaudeへのアクセスに用いられた]
APIトラフィック(API Traffic): アプリケーションプログラミングインターフェース（API）を通じて送受信されるデータ通信。
[重要性: 中]
[具体例: Anthropicが不正な蒸留攻撃を検知するために、APIトラフィックのパターン分析を行っている]
今後の影響
今回の事件は、AI技術の倫理的な問題やセキュリティリスクに対する懸念を高める可能性があります。Anthropicは、蒸留攻撃対策に多額の投資を行い、業界全体での協力体制を構築することを呼びかけています。政府機関も、AI技術の開発と利用に関する規制強化を検討する必要があるでしょう。