HubSpot社、200億ベクトル規模のセマンティック検索基盤を公開：運用自動化とスケーラビリティの課題解決
SaaSベンダーのHubSpot社は、同社が開発・運用するセマンティック検索基盤「VaaS（Vector as a Service）」の進化と、その運用上の課題解決策を公開しました。この基盤は現在、200億件を超えるベクトルを管理し、AIエージェント、RAG（検索拡張生成）、コンタクト情報の重複排除など、38以上のチームのコアなインフラとして機能しています。
HubSpot社は、この基盤のバックエンドにQdrantを採用し、自社運用することで、顧客データに対する管理権限の維持、コスト追跡、セキュリティ統合を実現しています。現在のプラットフォームは、200以上のインデックス、140を超えるクラスター、5つのリージョンにまたがって運用されており、ピーク時の書き込みトラフィックは毎秒10万リクエストに達する巨大な規模です。
当初、このシステムはHelmを用いて構築され、運用も手作業に頼る部分が大きく、規模の拡大に伴い管理が困難になるという課題に直面しました。この問題を解決するため、HubSpot社は内部のKubernetes Operatorフレームワークへ移行しました。この移行により、「Translator」と呼ばれる仕組みが導入され、システムが理想的な状態と実際の状態を60秒ごとに照合し、クラスターの作成・廃止、シャードの移動、レプリケーション障害からの復旧といった運用作業を完全に自動化することに成功しました。
この自動化アプローチは、クラスターの立ち上げ時間を従来の数時間から数分へと劇的に短縮させ、待機用のスタンバイクラスターの維持コストも削減しました。HubSpot社の事例は、単にベクトル技術を導入するだけでなく、需要の急拡大に伴うシステムの安定性維持と運用自動化こそが、現代のAIプロダクト開発における最大の課題であることを示しています。
背景
近年、大規模言語モデル（LLM）の普及に伴い、単なるキーワード検索では対応できない「意味的な検索（セマンティック検索）」の需要が爆発的に増加しています。企業が自社の膨大な非構造化データ（ドキュメント、顧客情報など）をAIに活用させる際、そのデータにアクセスし、関連情報を効率的に引き出すための高度なベクトル検索基盤の構築が必須となっています。
重要用語解説
- セマンティック検索: 単語の一致ではなく、文章やデータが持つ「意味」や「概念」に基づいて情報を検索する技術。ベクトル化されたデータを利用することで、より文脈を理解した検索が可能です。
- RAG（検索拡張生成）: Retrieval-Augmented Generationの略。LLMが回答を生成する際、外部の信頼できるデータベース（検索基盤）から関連情報を検索し、その情報を根拠として利用することで、ハルシネーション（誤情報生成）を防ぐ仕組みです。
- ベクトル: テキストや画像を数値の配列（ベクトル）に変換したものです。このベクトル空間上で、意味的に近いデータ同士が近くに配置されるため、類似度計算による検索が可能になります。
今後の影響
本事例は、AI時代におけるデータインフラの設計指針を明確に示しました。単なる検索機能の追加ではなく、200億ベクトルを扱うレベルの「運用自動化」と「スケーラビリティ」が最も重要であることを証明しています。今後、企業はAI活用において、データガバナンスと運用自動化を組み込んだ高度なベクトル検索プラットフォームの構築が必須となります。