Cloudflareが発表：従業員やアプリ単位でAI利用料に上限を設定できる「AI Gateway」の新機能
クラウドフラア（Cloudflare）は、提供するゲートウェイサービス「Cloudflare AI Gateway」において、全社で共有されるAIベンダーのAPIキーを利用する場合でも、ユーザーやアプリケーションごとに月間のAI利用料金の上限額を設定できる新機能を発表しました。この機能により、複数の従業員やアプリが共通のAPIキーを共有してAIサービス（OpenAI、Anthropic、Googleなど）にアクセスしている状況下でも、誰がどれだけ利用したかを追跡し、コスト管理が可能になります。
従来、APIキーを共有する場合、どのユーザーがどれだけの費用を消費しているかを特定することは困難でした。しかし、新機能では、Cloudflare AI GatewayがAIモデルの価格に基づいてリアルタイムで利用料金を計算します。これにより、個々のユーザーやアプリケーションごとに設定された予算と比較し、上限に達したかどうかを判別できます。
さらに、この上限設定は単なる金額制限にとどまらず、AIモデル、プロバイダー、さらにはカスタム属性ごとにも細かく予算を設定することが可能です。利用料金が上限に達した場合、システムは該当ユーザーやアプリケーションのAIサービスへのアクセスをブロックする措置を取るほか、より安価な代替AIサービスへ自動的にダウングレードさせることもできます。
Cloudflareはすでに自社内でこのAI Gatewayを利用して支出管理を行っていると説明しています。現在、この利用料金の上限設定機能はクローズドベータ版として提供されており、参加者を募集している状況です。
背景
近年、企業における生成AIの導入が急速に進む中で、OpenAIやGoogleなどの外部AIベンダーのAPI利用コストが大きな課題となっています。特に複数の部署や従業員が共通のキーを共有して利用する場合、誰がどれだけ使ったのか、予期せぬ高額な請求（ランナウェイ・トークン費用）が発生するリスクが高まっていました。
重要用語解説
- Cloudflare AI Gateway: クラウドフラアが提供するゲートウェイサービス。AIサービスとユーザーの間に入り、リクエストのルーティング、キャッシュ、利用ログ取得、そして今回発表されたコスト管理機能を提供します。
- APIキーを共有して利用: 複数のユーザーやアプリケーションが単一の認証情報（APIキー）を使って外部AIベンダーのサービスにアクセスすること。追跡が難しく、コスト超過のリスクを高めます。
- クローズドベータ: 新機能や製品を一般公開する前に、限定された参加者グループに対して試験的に利用してもらう段階のこと。フィードバック収集と安定性検証が目的です。
- 影響: 本機能は、企業におけるAI導入のガバナンス（統制）を大幅に強化します。コスト超過による予期せぬ出費を防ぐだけでなく、どの部門やアプリがどれだけAIを活用しているかを可視化することで、投資対効果（ROI）に基づいたより戦略的なAI利用計画策定が可能となり、企業のDX推進に不可欠な基盤技術となることが予想されます。