AI技術による生物兵器開発を防ぐため、大手AI企業が連邦議会に法整備を提言
複数の大手人工知能（AI）企業のCEOら（Google DeepMindのDemis Hassabis氏、OpenAIのSam Altman氏、AnthropicのDario Amodei氏、Microsoft AIのMustafa Suleyman氏など）が共同で署名した公開書簡を通じて、AI技術が悪意のある行為者による生物兵器開発に利用されるのを防ぐための法整備を連邦議会に強く求めている。この書簡は、非党派のInstitute for ProgressとFoundation for American Innovationによって組織されたものである。
提言の背景には、AI開発の急速な進展に伴い、「歴史的に悪意のある行為者が生物兵器を入手するのを防いできた知識の障壁が、意味のある形で侵食される可能性が現実のものとなっている」という認識がある。現在、DNAやRNAの合成プロセスは自動化され、世界中の数十社が商業シンセサイザーを用いてカスタムの遺伝子配列を「印刷」し、科学研究や創薬、診断などに利用している。しかし、すべての提供業者が顧客や注文される遺伝子配列の審査（vetting）を行っているわけではない。
特に懸念されているのは、AIの進歩が、危険な新しい毒素や病原体の設計を大規模言語モデル（LLM）を用いて可能にした点である。これは、意図的または偶発的に世界的なパンデミックを引き起こす可能性がある。スタンフォード大学の生物工学専門家であるDavid Relman氏は、AIツールが、審査の対象とならない配列を迅速に特定する手助けをしたり、注文の性質を変える方法を教えることも可能だと警鐘を鳴らしている。
これに対し、署名者らは、DNA合成提供企業（Twist Bioscienceなど）が自主的な審査を実施していることに加え、連邦レベルでの規制強化が必要だと主張している。バイデン政権下で導入された連邦ガイドラインに加え、今年初めに上院で提出された超党派法案は、米国内のすべての遺伝子合成提供業者に対し、悪意のある行為者や危険な病原体に関する注文と顧客の審査を義務付ける内容となっている。しかし、審査ツールは完璧ではなく、昨年、Microsoftの研究者らはAIタンパク質設計ツールが、企業の審査ソフトウェアをすり抜ける可能性のある危険な遺伝子配列を生成できることを示した。
背景
近年、AI技術とバイオテクノロジーの融合が急速に進展し、遺伝子編集や合成DNAのコストが劇的に低下した。これにより、かつては国家レベルの高度な設備が必要だった生物兵器の設計・製造が、よりアクセスしやすい領域に移行しつつある。専門家たちは、この技術的進歩が、国際的なバイオセキュリティ上の新たな脅威を生み出していると警鐘を鳴らしている。
重要用語解説
- 遺伝子合成: DNAやRNAなどの核酸を人工的に「印刷」し、特定の配列を製造する技術。創薬や研究に不可欠だが、悪用されるリスクも指摘されている。
- 大規模言語モデル（LLM）: 大量のテキストデータから学習したAIモデル。生物学の知識を組み込むことで、危険な病原体の設計や毒素の構造設計に利用される可能性がある。
- バイオセキュリティ: 生物学的な脅威（病原体、生物兵器など）から国家や社会を守るための対策や制度全般を指す専門分野。
今後の影響
本提言が法制化されれば、遺伝子合成業界全体に厳格な顧客・注文審査の義務化が求められ、生物兵器開発のハードルが大幅に引き上げられる。しかし、技術の進歩が規制の先を行くため、AI企業自身がより高度な「利用目的の監視」や「倫理的ガードレール」を組み込むことが、今後の重要な課題となる。