アンソロピック、強力すぎると警告したAI「クロード・ミュトス」を一般公開へ
米国の人工知能（AI）企業アンソロピックは、これまでその強力さゆえに一般公開には適さないとしてきたAIツールを、安全対策とユーザー制限を設けた上で一般公開すると発表しました。今回一般公開されるのは、「クロード・フェイブル5」という名称のバージョンです。
この背景には、同社の主力モデル「クロード・ミュトス」が持つ極めて高い能力に対する懸念があります。4月にプレビューおよび試験段階で限定公開された際、テクノロジー業界や金融、政府機関などから、「安全保障上のリスクをもたらす可能性がある」「あまりに強力すぎる」といった深刻な懸念の声が上がっていました。アンソロピックは当初、このモデルの知能が高く、コンピューターシステムを悪用またはハッキングする危険性があるとして、少数のグループに限定してアクセスを許可していました。
しかし、同社は今月9日（記事執筆時点）、フェイブル版を公開すると述べるとともに、「これほどの能力を持つモデルを公開することにはリスクが伴う」と警告しました。また、この「フェイブルの能力は、これまで一般公開してきたどのモデルも上回る」とも強調しています。
当初ミュトスを利用した団体や企業からは、自社のシステムにおいて合計1万件以上の重大なセキュリティ上の欠陥が発見されたとの報告がアンソロピックに寄せられています。この事実は、AIの高度化に伴う潜在的なリスクを具体的に示しています。
なお、フェイブルとミュトスは本質的には同一モデルですが、安全対策やアクセス水準が異なります。また、従来のクロードモデルと比較して、より長時間「無人」で動作できる点も特徴です。アンソロピックの共同創業者ジャック・クラーク氏は、AIシステムの強力化に伴い、人間が主導権を握り続けるための「ブレーキペダル」が必要であると警鐘を鳴らしています。
背景
アンソロピックは、高度な知能を持つAIモデルの開発で注目を集めていますが、その強力さゆえにセキュリティリスクや社会的な影響が懸念されてきました。特に金融や政府機関での利用を巡っては、安全性の確保と公開範囲の設定が大きな論点となっています。
重要用語解説
- クロード・ミュトス: アンソロピック社が開発した高性能AIモデルの名称。その知能の高さから、セキュリティ上のリスクが高いと評価されています。
- クロード・フェイブル5: 「クロード・ミュトス」をベースとしつつ、安全対策やユーザー制限を設けて一般公開されたバージョン。より広範な利用が可能です。
- アンソロピック: 米国のAI開発企業。高性能なAIモデルの開発と、そのリスク管理に関する議論の中心にいる企業です。
今後の影響
本件は、超高性能AIの社会実装における「安全性」と「利便性」のトレードオフを象徴しています。一般公開が進むことで、産業利用やセキュリティ対策への投資が加速する一方、悪用リスクに対する国際的な規制やガイドライン策定が急務となります。今後の政府・企業による監視体制が焦点です。