リコーは、日本語の文書や図表を高精度に理解し、高速・省リソースで動作するマルチモーダル大規模言語モデル（LMM）「リコーLMM_35B-A3B」を開発した。同モデルは、アリババクラウドが開発、提供する「Mixture of Experts（MoE）」構造を採用した「Qwen3.6-35B-A3B」をベースに、リコー独自の強化学習とカリキュラム学習技術を活用して、日本語での推論（リーズニング）性能を高めたもの。10月15日に発表した。
図表を含む多様な社内ドキュメントを生成AIで活用したいというニーズが高まる一方で、セキュリティやガバナンスの観点から、クラウドAIの利用が難しく、オンプレミス環境で安全に利用できる高性能なLMMへの期待が高まっている。推論に必要なGPUリソースや電力、応答時間も課題となっており、大量文書を一括で処理する業務や多数の同時アクセスが発生する環境では、限られた計算資源で高速に処理できることが重要になる。
今回採用したMoE構造のモデルは、必要な部分のみを選択的に稼働させることで計算量を抑えられる。これに、独自の追加学習を通じて、日本企業の業務で実用的に活用できるモデルを開発した。
同モデルでは、総パラメータ数約350億のうち、推論時に約30億パラメータのみを稼働させる。モデル内部の処理を複数の「専門家」に分担させ、入力に応じて必要な専門家だけを選んで動かすことで、同規模の「Dense」型モデルと比べて1トークンあたりの計算量を抑え、高速な処理を実現する。最大256Kトークンの長文コンテキストに対応し、画像に加えて動画入力にも対応する。
Dense型は、モデル全体で計算する従来型のアーキテクチャ。入力ごとに一部の専門家のみを利用するMoEモデルと異なり、すべてのパラメータが常に動作するため、構造がシンプルで学習が安定しやすい一方、パラメータ数に比例して推論時の計算量が大きくなるという。
リコー独自の強化学習とカリキュラム学習技術をMoE向けに発展させ、読解性能を向上させた。リコー独自のベンチマーク「JDocQA-Reasoning Benchmark v2.0」では、ベースモデルの0.816から0.841に向上。推論時に稼働するパラメータが約9分の1でありながら、同じQwen3.6系列のDense型モデル「Qwen3.6-27B」（0.841）と同等の水準。商用クラウドAIモデル「GPT-5.6 Sol」（0.821）と同等以上の性能を確認し、同規模のMoE型オープンモデル「gemma-4-26B-A4B-it」（0.784）を上回っている。加えて、ELYZA-tasks-100やJapanese MT-Benchによる日本語LLM性能評価では、ベースモデルと同水準を維持するなど、日本語推論性能を向上させている。
日本語AIエージェント評価ベンチマーク「j-tau-bench」の通信事業者カスタマーサービスのシナリオでは、依頼されたタスクを正しく遂行できた割合（正答率）が、ベースモデルの62.4％から77.7％へ向上。同じ内容を繰り返して出力し続ける「ループ回答」の抑制による応答時間の安定性も高めている。
あわせて、NVIDIA Blackwell世代以降のGPU向けに量子化したNVFP4版も開発した。小型AIサーバー「NVIDIA DGX Spark」1台で動作し、BF16版と比べて1問あたりの応答時間を約3分の1（MTP併用時は約4分の1）に短縮している。
同モデルは11月から順次「RICOH オンプレLLMスターターキット」に搭載し、リコージャパンから提供する予定。6月に発表した高精度志向のDense型モデル「リコーLMM_27B」、軽量モデル「リコーLMM_9B」に同モデルを加え、顧客の業務要件や導入環境に応じて最適なモデルを選択できるラインアップを拡充するとしている。
ZDNET Japan 記事を毎朝メールでまとめ読み（登録無料）