AI脆弱性ハンティングの限界：Cloudflareが示す「モデル」より「仕組み（harness）」が鍵
本記事は、CloudflareがAnthropicのセキュリティ特化モデル「Mythos Preview」を用いて、自社の50以上のリポジトリ群（ランタイム、エッジデータ経路、プロトコルスタックなど）に対して実施した「Project Glasswing」の報告に基づき、AIによる脆弱性発見の最新動向と課題を詳細に解説している。従来の「コーディングエージェントに脆弱性を探させる」という直感的なアプローチは、実コードベース全体を網羅し、価値ある発見を出す点において限界があることが示された。その主な理由は、エージェントが「単一の集中した作業の流れ」にチューニングされているため、本質的に「狭く並列」な脆弱性研究の性質に対応できない点と、単一ストリームでは膨大なコードベースをカバーするスループットが不足する点にある。
Cloudflareは、単なるモデルの進化ではなく、そのモデルをどのように利用するかという「仕組み（harness）」の設計こそが重要だと結論づけている。Mythos Previewは、複数の「攻撃プリミティブ」を繋ぎ合わせるエクスプロイトチェーンの推論や、発見したバグの悪用可能性を証明するPoC（概念実証）の生成能力において高い性能を示した。しかし、単一エージェントに頼るのではなく、以下の多段階のパイプライン（harness）を構築することが、真の成果を生む鍵となる。
このパイプラインは、①Recon（偵察）で「アーキ文書」を生成し文脈を共有した後、②Hunt（狩猟）で多数のサブエージェントを並列起動させる。最も重要なのが、③Validate（敵対的検証）の段階であり、独立したエージェントが元の発見を「反証」しようとすることで、ノイズや誤検知を大幅に削減する。さらに、④Trace（到達性追跡）で「欠陥がある」という状態を「実際に攻撃者から到達可能な脆弱性」へと絞り込むプロセスが、実用的な価値を決定づける。このように、複数のエージェントを意図的に対立させたり、タスクを狭く分割したりする「相互作用の形」こそが、AIセキュリティ研究の最前線であると指摘している。
背景
AIによるソフトウェアの脆弱性発見は、近年急速に進展している分野です。従来の静的解析ツール（SAST）や動的解析ツール（DAST）では見つけにくい、複雑なロジックの欠陥や、複数のコンポーネントをまたぐ脆弱性（Chained Exploits）の発見が課題でした。本記事は、この課題に対し、大規模言語モデル（LLM）を単なる「検索ツール」としてではなく、「検証と対立」を組み込んだ複雑なパイプライン（harness）として利用する新しいアプローチを提示しています。
重要用語解説
- エクスプロイトチェーン: 単一のバグではなく、複数の小さな脆弱性（攻撃プリミティブ）を繋ぎ合わせることで、システム全体を掌握する一連の攻撃手順。複雑な実害を伴う攻撃の典型例。
- harness: AIモデル（LLM）そのものではなく、モデルの出力を管理し、複数のエージェントやプロセスを連携させ、最終的な目標（この場合は脆弱性発見）を達成するための「仕組み」や「パイプライン」全体を指す。
- PoC（概念実証）: 発見されたバグや脆弱性が、実際に悪用可能であることを証明するために、最小限のコードを書いて実行し、動作を確認するプロセス。単なる理論上の欠陥と実害の証明を分ける重要なステップ。
今後の影響
この報告は、AIセキュリティ研究のパラダイムシフトを示唆しています。今後は、単に高性能なモデルを開発するだけでなく、複数のエージェントを組み合わせて「敵対的に検証」し、発見の信頼性を高める「アーキテクチャ設計」が最も重要になります。企業は、AIの「速さ」だけでなく、「検証の厳密さ」を担保する仕組みの構築に注力する必要があります。