業界最高水準の性能を誇る大規模・小規模2つの言語モデルを一般公開 –
楽天グループ株式会社は、日本語処理で最高水準の性能を実現した2つの新しい言語モデル「Rakuten AI 2.0」および「Rakuten AI 2.0 mini」の無償提供を開始しました。
2024年12月の発表から約2ヶ月の検証期間を経て、企業や開発者が自由に利用できる形で公開されました。
これにより、日本における自然言語処理技術の発展と、AIアプリケーション開発の大幅な加速が期待されています。
革新的な技術が実現する卓越した性能
「Rakuten AI 2.0」は、Mixture of Experts（MoE）アーキテクチャを採用した 8x7B モデルとして設計されました。
8つの「エキスパート」（各70億パラメータ）で構成されるこのモデルは、入力内容に応じて最適なサブモデルを選択・活用する革新的な仕組みを採用しています。
この設計により、処理効率の大幅な向上を実現するとともに、共有パラメータの活用による省メモリ設計で総サイズを560億未満に抑制することに成功しました。
さらに、複数エキスパートの知識を組み合わせることで、より高度な文脈理解が可能となっています。
学習最適化においては、最新の研究成果であるSimPO（Simple Preference Optimization with a Reference-Free Reward）を世界に先駆けて実装しました。
従来の RLHF が複雑な報酬モデルを必要とし、DPO が参照モデルに依存する中、SimPO はシンプルな実装と安定的な学習、低計算コストを同時に実現する画期的な手法として注目を集めています。
圧倒的な性能を示すベンチマーク結果
日本語版 MT-Bench による評価では、両モデルとも同クラスで最高性能を達成しています。
「Rakuten AI 2.0」は評価スコア 8.2/10、「Rakuten AI 2.0 mini」は 7.8/10 を記録し、ライティング、ロールプレイ、推論、数学、コーディングなど、多岐にわたる評価カテゴリで優れた性能を示しています。
これらのスコアは、2025年1月27日時点で GPT-4 による評価に基づくものです。
実用性を重視した小規模モデルの実力
15億パラメータの小規模モデル「Rakuten AI 2.0 mini」は、独自の多段階フィルタリングと高品質データによる学習で、その規模を超える性能を実現しています。
日本語・英語の自然な対話処理やリアルタイムな応答性能を維持しながら、導入コストを抑制することで、幅広い企業での活用を可能にしています。
多様な商業利用シーンでの活用
これらのモデルは、様々なビジネスシーンでの活用が期待されています。
コンテンツ管理の分野では、商品説明文の自動生成やマーケティング文章の作成、多言語コンテンツの展開などに威力を発揮します。
カスタマーサポートでは、24時間対応の自動応答や問い合わせ内容の自動分類、最適な解決策の提案を実現。
さらに、データ分析の領域では、テキストデータの自動分類やトレンド分析、レポートの自動生成など、幅広い業務の効率化に貢献します。
楽天が描くAIの未来像
楽天グループの Chief AI & Data Officer（CAIDO）であるティン・ツァイ氏は、新モデルの意義について次のように語っています。
「私たちの新たなAIモデルは、効果的かつコストパフォーマンスの良いソリューションを提供することで、企業が迅速に価値を実現し、新たな可能性を開くための最適な選択を行えるようにします。オープンモデルの公開は、日本におけるAI開発を加速すると確信しています」
提供形態と今後の展開
新モデルは Apache 2.0 ライセンスのもと、基盤モデル（事前学習済み）とインストラクションチューニング済モデルの2種類が提供されます。
これらは楽天公式 Hugging Face リポジトリ（https://huggingface.co/Rakuten）から入手可能です。
楽天は「AI-nization」をビジョンに掲げ、モデルの継続的な改善と更新、開発者コミュニティの支援強化、新たなユースケースの開拓、産学連携の推進など、包括的な取り組みを展開していく方針です。
今回の言語モデル公開を通じて、日本のAI開発コミュニティの発展に貢献し、革新的なサービス創出を支援していきます。
コメント