Z.aiがGLM-5.3-Flashを公開:320BパラメータのスパースMoE構造と中国製チップ搭載の技術的詳細
AI企業Z.aiは、大規模言語モデル(LLM)「GLM-5.3-Flash」のウェイトを2026年8月26日にHugging Faceで公開しました。このモデルは、総パラメータ数3200億(320B)という巨大な規模を持ちながら、アクティブパラメータは180億(18B)というスパースなMixture of Experts (MoE)構造を採用しているのが最大の特徴です。この設計により、計算効率を維持しつつ、高性能を実現しています。
本モデルは、単にテキスト処理に留まらず、画像や動画の入力に対応するネイティブなマルチモーダルモデルであり、さらにMITライセンスという非常に寛容なライセンスで提供されています。特筆すべきは、このモデルが公開される数週間前より、「Ox Alpha」という仮の名称で、中国製のAIアクセラレータ上で秘密裏にテスト運用されていたという経緯です。これは、純粋な出力品質のみでコミュニティの注目を集めた事例として注目されています。
技術的な側面では、GLM-5.3-Flashは、従来の標準アテンションと、履歴を固定サイズの状態に圧縮するKDA(Linear Attention)を組み合わせたハイブリッドなアテンション機構を採用しています。また、長いコンテキスト処理を効率化するためのIndexPoolや、層間の接続効率を高めるManifold-Constrained Hyper-Connections (mHC)といった独自の技術が組み込まれています。ベンチマーク評価では、第三者評価機関であるArtificial AnalysisによるGDPval-AA v2で1773点を記録し、競合モデル(Claude Opus 4.8やGPT-5.6 Terraなど)を上回る結果を出しています。Z.aiは、この性能を「Opusレベルの能力を、10分の1の価格で」提供できる点に重点を置いています。ただし、ビジョンタスクなど一部のベンチマークでは競合に劣る点も開示するなど、透明性を保っている点が評価されています。
背景
近年、LLM市場は性能向上とコスト効率化が最大の課題となっています。特に、パラメータ数を増やしつつ計算コストを抑える「MoE(Mixture of Experts)」構造が主流となり、モデルの「規模」と「実用性」の両立が求められています。Z.aiの今回のリリースは、この業界のトレンドを象徴する、技術的ブレイクスルーと市場戦略が融合した事例です。
重要用語解説
- Mixture of Experts (MoE): 専門家混合モデル。巨大な総パラメータ数(320B)を持ちながら、トークン処理時にはその一部の専門家(8/288)のみを活性化させることで、計算コストを大幅に削減する構造。
- スパースアテンション: アテンション機構の一種。全ての過去のトークンを比較するのではなく、関連性の高い部分のみに注目することで、長いコンテキストにおける計算負荷とメモリ消費を抑える技術。
- マルチモーダル: 複数の種類のデータ(テキスト、画像、動画など)を同時に理解し、処理できる能力。単なるアダプター追加ではなく、最初からこれらのデータで訓練されたネイティブなモデルを指す。
今後の影響
GLM-5.3-Flashの登場は、高性能AIモデルの市場における「コスト効率」の基準を引き上げます。低コストでOpus級の性能を謳うことで、特に開発者や企業がAIを組み込む際の導入障壁を下げ、AIの普及を加速させる可能性があります。今後の競争は、単なる性能比較ではなく、この「コスト対性能比」の優位性が焦点となるでしょう。