IFMが「K2 Horizon」を発表：全ライフサイクルを開放した6モデルのLLM群、エッジからエンタープライズまで対応
IFMは本日、6つのモデルからなる接続された大規模言語モデル（LLM）群「K2 Horizon」をリリースしました。本モデル群は、0.9Bから375B-A23Bまでの幅広いサイズクラスを網羅し、推論、数学、コーディング、エージェントタスクなど、あらゆる能力において最高水準のパフォーマンスを達成しています。特に、0.9B、3.7B、7Bの小型モデルは、それぞれの規模において世界最高水準（SOTA）を打ち立てています。
本リリースの最大の特徴は、単なるモデルの提供に留まらない点にあります。K2 Horizonは、事前学習から推論およびエージェント的なポストトレーニングに至るまでの「全開発ライフサイクル」を最も包括的にオープン化しました。具体的には、中間チェックポイント、トレーニングデータまたはデータ構築レシピ、オープンなアーキテクチャ、混合組成、トレーニングコード、詳細なログ、評価結果、最終ウェイトなど、開発プロセス全体を公開しています。これにより、研究者は単に結果を見るだけでなく、高度な能力がどのように生まれるかを深く研究することが可能になります。
モデルの構成は、エッジデバイス（時計やメガネなど）向けの0.9Bから、要求の厳しいエンタープライズ環境向けの375B-A23Bまで、シームレスに連携する「接続されたファミリー」として設計されています。特に36B-A4Bモデルは、新しいMixture-of-Value-Attention (MoVA)機構を搭載することで、アクティブパラメータあたりの能力を飛躍的に向上させています。この包括的なオープン化と性能の高さが、本モデル群の最大の価値です。
背景
従来のLLMは、最終的な重み（ウェイト）のみが公開される「ブラックボックス」化が進んでおり、研究者はモデルの内部的な能力形成プロセスを理解することが困難でした。本ニュースは、この課題に対し、開発プロセス全体を公開することで、AI研究の透明性と再現性を飛躍的に高める画期的な試みです。
重要用語解説
- Mixture-of-Value-Attention (MoVA): アテンション機構にスパース性（疎結合）を導入した新しいアーキテクチャ。これにより、計算量を抑えつつ、モデルの総容量を増大させ、効率的な性能向上を実現しています。
- エージェンティックタスク (Agentic tasks): 単なる質問応答を超え、計画立案、ツール使用、多段階の推論など、自律的に目標を達成するための複雑な一連のタスクを指します。
- 全開発ライフサイクル (Full development lifecycle): 事前学習、ファインチューニング、エージェント的なポストトレーニングなど、モデルが完成するまでの全工程を公開し、研究の再現性を極限まで高める概念です。
今後の影響
本モデル群の公開は、AI研究のパラダイムシフトを促す可能性があり、研究者には前例のない透明性を提供します。企業側にとっては、エッジからエンタープライズまで一貫した性能を持つモデル群を、高い信頼性のもとで導入できるため、AIソリューションの市場展開が加速すると予想されます。