Anthropic CEOが提言：最先端AIに「航空機並みの安全審査」義務化を要求
米Anthropicのダリオ・アモデイCEOは、2024年6月10日（現地時間）に長編エッセイ『Policy on the AI Exponential』と二つの政策提言を発表し、AI技術の指数関数的な進歩に伴う社会構造の変化と規制の必要性を強く訴えた。同氏は、AIの能力が急速に向上しており、わずか数年で「データセンターの中の天才たちの国」のような段階に達すると指摘した。しかし、法制度や政策決定プロセスが追いついていない現状を問題視し、「面白いおもちゃ」から世界を変える戦略的ツールへと変貌するAIに対し、従来の透明性確保だけでは不十分だと主張している。
アモデイ氏の核心的な提言は、フロンティアAIモデル（最先端モデル）に対して、航空機と同様に第三者によるリリース前テストを義務付け、安全基準を満たさない場合は政府がデプロイを阻止できる法的権限を持つべきだというものである。エッセイでは、規制・公共安全、マクロ経済・税制、科学革新の加速、国家と市民的自由のバランス、地政学という5つの政策領域にわたる提言を展開した。
さらに具体的な制度設計として、「先進AIフレームワーク」を提案し、一定規模以上の計算資源で訓練されたモデルについて、サイバー兵器、生物兵器、制御喪失、自動化研究開発の4分野での独立した第三者評価を義務付け、政府によるデプロイ差し止め権限を持つべきとした。また、「経済政策フレームワーク」では、失業率に応じた3段階の対策を示し、Anthropic自身が計3億5000万ドル（約500億円）を拠出して研究基金やフェローシッププログラム設立にコミットする姿勢を見せた。
雇用問題についても言及し、AIによる広範な認知能力代替に伴う持続的な雇用喪失の可能性を認めつつ、単なる経済的支援（UBIなど）だけでなく、人々が「意義や目的」を見出せる社会構造の模索が必要だと警鐘を鳴らしている。アモデイ氏は、これらのリスク懸念は「PRの問題」として片付けるべきではなく、党派を超えた政策連携によって対処すべき現実的な課題であると結んでいる。
背景
近年、AIモデルの能力向上は指数関数的であり、社会への影響が甚大化しています。特に大規模言語モデル（LLM）は、単なるツールから国家安全保障に関わる戦略的な技術へと変貌を遂げました。この急激な進歩に対し、既存の法規制やガバナンス体制が追いついていないという危機感が、本提言の背景にあります。
重要用語解説
- 指数関数的（Exponential）: 能力向上が一定の割合で加速的に増大すること。AIモデルの性能向上速度を指し、予測が難しくなる要因とされています。
- フロンティアモデル: 現在の最先端技術水準を示すAIモデル群。特に大規模かつ高性能なモデルを指し、社会的なリスクも最大となるため規制の焦点となっています。
- ユニバーサル・ベーシック・インカム（UBI）: すべての人に生活に必要な最低限度の所得を無条件で給付する制度。AIによる大量失業への備えとして議論されています。
今後の影響
本提言が実現すれば、最先端AIの開発サイクルと規制のタイミングに大きな変化をもたらします。開発企業はより厳格な安全基準を満たす必要が生じ、社会全体では「リスク管理」が技術革新と同等に重要視されるようになります。これは、今後のAIガバナンスや国際的な標準化を加速させる決定的な要因となるでしょう。