楽天、日本語に最適化された大規模言語モデル「Rakuten AI 2.0」と初の小規模言語モデル「Rakuten AI 2.0 mini」を提供開始
楽天グループは、日本語に最適化された大規模言語モデル（LLM）「Rakuten AI 2.0」と、同社初の小規模言語モデル（SLM）「Rakuten AI 2.0 mini」の提供を開始しました。どちらもApache 2.0ライセンスで提供され、Hugging Faceリポジトリからダウンロード可能です。
楽天グループの公式「Hugging Face」リポジトリ：
Rakuten (Rakuten)Language, Vision, Speech, Distributed Deep Learninghuggingface.co
Rakuten AI 2.0：革新的な手法で人間の嗜好に接近Rakuten AI 2.0は、Mixture of Experts（MoE）アーキテクチャを採用した8x7Bのモデルです。8つの70億パラメータの「エキスパート」と呼ばれるサブモデルで構成され、高品質な日本語と英語の言語データで学習しています。ファインチューニングには、最新の研究成果であるSimPOを活用。従来のRLHFやDPOと比較して、シンプル、安定的、効率的という利点があり、費用対効果の高い最適化を実現しています。
Rakuten AI 2.0 mini：軽量ながらも高性能
15億パラメータのRakuten AI 2.0 miniは、多段階データフィルタリングとアノテーションプロセスを経て構築された高品質な日本語と英語のテキストデータで学習しています。
日本語版MT-Benchで最高水準の性能を実証
両モデルのインストラクションチューニング済モデルは、日本語版MT-Benchで最高水準の性能を発揮。同程度のパラメータ数を持つ他のモデルと比較して、Rakuten AI 2.0は最高のスコアを記録し、Rakuten AI 2.0 miniも同規模のオープンモデルの中でトップの性能を示しました。
これらのモデルは、コンテンツの要約、質問への回答、一般的なテキスト理解、対話システムの構築など、様々なタスクで商業利用が可能です。さらに、新しいモデルを構築するためのベースとしても活用できます。
楽天グループのAI戦略：AI-nizationでさらなる成長へ
楽天グループは、「AI-nization」をテーマに、ビジネスのあらゆる面でAI活用を推進しています。今回の新AIモデル公開は、日本におけるAI開発を加速させ、全ての企業がAIを活用して成長していくための後押しとなるでしょう。楽天は、豊富なデータと最先端のAI技術を活用し、世界中の人々へ新たな価値を提供し続けていきます。
主な用途:
* コンテンツの要約
* 質問への回答
* テキスト理解
* 対話システム構築
* 新しいモデルのベース
まとめ:
楽天の新しいAIモデルは、高性能かつオープンソースで利用できるため、日本語におけるAI開発を大きく前進させる可能性を秘めています。今後の展開に注目です。
詳細はこちらをご確認ください。
全モデルは、Apache 2.0ライセンスで提供
Apache 2.0ライセンスは、ソフトウェアを使用、複製、変更、配布、およびサブライセンスする権利を、帰属表示（作者のクレジット表記）を行うことを条件として、無償で付与するオープンソースライセンスです。商用利用も許可されています。主な特徴は以下のとおりです。
- 永続的な権利: 一度ライセンスを取得すれば、永続的に使用できます。
- 世界中で有効: ライセンスは世界中で有効です。
- 著作権表示の義務: ソフトウェアを使用する際には、元の著作権表示を残す必要があります。
- ライセンスのコピーの添付: ソフトウェアを配布する際には、ライセンスのコピーを添付する必要があります。
- 特許権の付与: ライセンスには、ソフトウェアに関連する特許の使用権が含まれています。
- 保証の放棄: ライセンスは、ソフトウェアの品質や特定の目的への適合性について、明示的または黙示的な保証を行いません。つまり、「現状のまま」提供されます。
- 責任の制限: ライセンスは、ソフトウェアの使用によって生じた損害に対する責任を制限します。
詳細はhttps://www.apache.org/licenses/LICENSE-2.0 をご確認ください。
