ソフトバンク子会社SB Intuitions、NICTと共同研究で安全なAI開発へ
ソフトバンクの子会社であるAI企業SB Intuitionsは、2月18日から情報通信研究機構（NICT）と共同研究を開始しました。この研究の目的は、大規模言語モデル（LLM）の安全性向上です。具体的には、「アライメント」と呼ばれる技術を用いて、LLMが人間の価値観や倫理観に沿って動作するように調整する研究を行います。また、LLMに入出力する文章の不適切な表現を検知・制御する「ガードレール」技術の開発も目指します。SB Intuitionsは国産LLM「Sarashina」の開発で得た知見と、NICTが長年蓄積してきたテキストデータなどを組み合わせることで、より安全で信頼性の高いAIの実現を目指しています。
背景
近年、大規模言語モデル（LLM）の進化は目覚ましく、様々な分野で活用が期待されています。しかし、LLMには倫理的な問題や誤った情報の生成などのリスクも指摘されており、安全性の確保が課題となっています。本共同研究は、これらの課題解決に向けた取り組みとして行われます。
重要用語解説
大規模言語モデル（LLM）: 大量のテキストデータから学習し、人間のような文章を理解・生成できるAIモデルです。近年、チャットボットや翻訳など様々な分野で応用されています。[重要性：非常に高い]。[具体例：ChatGPT, Sarashina]
アライメント: LLMが人間の価値観や倫理観に沿って動作するように調整する技術です。[重要性：高い]。[具体例：偏見のない文章生成、倫理的な判断に基づいた行動]
ガードレール技術: LLMに入出力する文章の不適切な表現を検知・制御する技術です。[重要性：高い]。[具体例：差別的な発言の抑制、虚偽情報の拡散防止]
今後の影響
本共同研究によって開発される安全性の高いAI技術は、様々な分野で応用され、社会に大きな影響を与えることが期待されます。特に、医療や教育など、倫理的な配慮が求められる分野での活用が注目されます。