トランプ大統領、政府機関からAnthropic AIの利用を禁止
2月24日、ドナルド・トランプ前米大統領は、すべての連邦機関がAnthropic社のAIツールを使用することを停止するよう指示しました。これは、軍事における人工知能（AI）の適用方法についてAnthropic社と政府高官の間で数週間争いがあったことを受けてのことです。トランプ氏はTruth Socialで、「Anthropic社にいる左翼の狂人たちは、国防省に強要しようとしたことで大失敗をした」と述べました。彼はまた、6か月間の移行期間を設け、政府とAIスタートアップとの間でさらなる交渉が行われることを示唆しました。国防長官のピート・ヘグセ氏はAnthropic社を「サプライチェーンリスク」に指定し、米軍とその請負業者やサプライヤーがAI企業と業務を行うことを禁止するよう指示しました。彼はまた、Anthropic社とCEOのダリオ・アモデイ氏に対して、「効果的な利他主義」という偽りの言葉で覆われた強要行為を行ったと批判しました。国防省は昨年、Anthropic社を含む複数の企業との契約を改定し、AIの運用方法に関する制限を取り除き「合法なすべての使用」を許可しようとしています。Anthropic社はこの変更に反対し、AIが完全に自律的な武器に使用されるか、米国民に対する大規模な監視が行われる可能性があると主張しました。国防省は現在、これらの方法でAIを使用しておらず、そのような計画も持っていないと述べています。しかし、トランプ政権の高官は、重要な技術の軍事利用を民間企業に決定させることを反対しています。Anthropic社は昨年、ペンタゴンとの2億ドルの契約を通じて米軍と協力する最初の主要なAIラボでした。彼らは「Claude Gov」と呼ばれる制限が緩和されたいくつかのカスタムモデルを作成しました。GoogleやOpenAI、xAIも同様の契約を締結しましたが、Anthropic社だけが現在分類されたシステムで働いています。Anthropic社のモデルは、PalantirとAmazonクラウドプラットフォームを通じて米軍の機密業務に使用されています。Claude Govは現在、レポート作成や文書要約などの一般的なタスクで使用されている一方で、情報分析や軍事計画にも使用されていると、状況を把握している匿名のソースがWIREDに語っています。近年、シリコンバレーでは国防関連業務から距離を置き、徐々にそれを受け入れ、最終的には完全な軍事請負業者へと進化してきました。Anthropic社とペンタゴンの間の争いは、この移行の限界を試しています。今週、OpenAIとGoogleからの数百人の従業員がAnthropic社を支持し、自社の企業がAIの軍事利用に関する制限を取り除く決定を批判する公開書簡に署名しました。OpenAIのCEOであるサム・アルトマン氏は、同社はAnthropic社と意見を一致させ、大規模な監視や完全自律型兵器を「レッドライン」として認識していると述べました。彼はまた、ペンタゴンとの契約交渉を行い、軍事部門との活動を継続できるようにしようとすると述べています。ペンタゴンの最高幹部がニコラス・マドゥロベネズエラ大統領の捕獲作戦にClaudeを使用していたことをAxiosが報じた後、ペンタゴンとAnthropic社の間での公開対立が始まりました。その後、Palantirの従業員は、Anthropic社の社員から米軍高官に、そのモデルがどのように使用されたかについての懸念を伝えたとされています。Anthropic社は、懸念を表明したり、ペンタゴンの技術利用に関与したことはないと否定しています。この争いは、人工知能の運用方法に関する具体的な意見の違いよりも、雰囲気の違いによるものだとする専門家もいます。軍事におけるAIの利用に関する専門家であり、かつて国防省で新興技術副担当官を務めたマイケル・ホロウィッツ氏は、「これは私の意見では不必要な紛争です」と述べています。「現在検討されているのは、現実には存在しない理論的な使用事例の問題です。」 Horowitz氏は、Anthropic社がこれまで提案してきたすべての方法を支持していると指摘しています。彼はまた、「ペンタゴンとAnthropic社は、技術が本格的に運用できる状態ではないという点で合意している」と考えていると述べています。Anthropic社はAIの安全性を基盤とした開発理念に基づいて設立されました。Amoedi氏は1月に、強力な人工知能のリスクに関するブログ投稿を執筆し、完全自律型AI制御兵器の危険性に触れました。「これらの武器にも民主主義の防衛における正当な使用法があります」とAmodei氏は述べています。「しかし、扱うには非常に危険な武器です。」
背景
2023年2月、Anthropic社と米国国防省の間でAIの軍事利用に関する対立が勃発しました。この争いは、Anthropic社が軍事におけるAIの運用方法に対する制限を設けようとしたこと、そしてペンタゴンがこれらの制限を取り除き「合法なすべての使用」を許可しようとしたことに端を発しています。
重要用語解説
・Anthropic社：[AI開発企業]。米国国防省と契約し、軍事用途にAI技術を提供している。
・Claude Gov：[Anthropic社の軍事向けAIモデル]。制限が緩和されたAIモデルで、米軍で使用されている。
・Dario Amodei：[Anthropic社のCEO]。AIの安全性を重視する立場を表明しており、自律型兵器の使用に反対している。
・Palantir：[データ分析企業]。Anthropic社の軍事向けAIモデルが利用されるプラットフォームを提供している。
今後の影響
この対立は、民間企業と政府機関間のAIの倫理的および法的枠組みに関する議論をさらに深める可能性があります。また、AI技術の軍事利用に対する懸念を高め、国際的な規制の必要性を浮き彫りにする可能性もあります。