NVIDIA Agentic AI Dayで判明したLLMルーティング小型化の実証と製造現場への示唆

3行解説
- クラスメソッドが、LLMルーティングの判定役を284Bから30Bへ小型化した実証を紹介した。
- 判定精度は学習前72.2%から、SFT後81.4%、量子化後82.6%へ上がった。
- 製造業では、点検手順の問い合わせや日報要約を対象にし、安全判断は人へ回す考え方が示された。
ニュースの概要
2026年11月10日、東京・ザ・プリンス パークタワー東京で開かれた「NVIDIA Agentic AI Day Japan 2026」で、クラスメソッド株式会社の森茂洋氏が講演した。テーマは「284B から 30B へ – 品質とコストを両立する本番環境向け LLM ルーティング」で、複数のLLMから仕事に合うモデルを選ぶ仕組みの検証結果が紹介された。
講演では、依頼内容を見てweakとstrongのどちらへ振り分ける判定役を、284Bのモデルから30Bのモデルへ置き換えた経緯が説明された。あわせて、判定精度、API費、学習手順、量子化後のサイズ、実機での振り分け結果などが示され、製造業の問い合わせ対応への応用例も挙げられた。
何が新しいのか
新しい点は、LLMルーティングの「判定役」を大きなモデルのまま使うのではなく、学習と量子化で小型化し、本番運用を意識した形に近づけたことだ。ベースはNVIDIA Nemotron 3.5 Lightning 30Bで、教師データ1,775課題を使ってSFTを行い、その後に量子化まで実施した。
評価用237件では、JSON形式で正しく出力できた件数が学習前212件、SFT後237件、量子化後236件だった。判定一致率も72.2%から81.4%、82.6%へ改善した。さらに実機87件では、教師284Bが78件、30Bが80件を期待どおりに振り分けており、単なる小型化ではなく、運用に使える判定役へ近づけた点が特徴といえる。
GA Robotics編集部注目のポイント
注目したいのは、判定役を30Bへ小型化しても、実機87件で教師モデルを上回る振り分け結果が出た点だ。これは、モデルを大きくすればよいのではなく、用途を絞って学習させることで、運用上の十分条件に近づける可能性を示している。
一方で、森茂氏自身が述べている通り、見ているのは評価ラベルとの一致であり、仕事の成功率そのものではない。つまり、導入判断では「判定が当たるか」だけでなく、「その判定で現場の手戻りが減るか」を別に確かめる必要がある。ここを分けて見ないと、精度が高く見えても実務では費用が下がらないことがある。
日本の現場で考えると
日本の製造・保全現場では、設備トラブルの一次問い合わせや点検手順の案内、日報の要約のように、答えの根拠が手順書や記録にある業務から始めやすい。こうした仕事は、weakへ回してもよいかを判定しやすく、保全担当者が最終確認しやすいからだ。
逆に、原因の切り分けが必要な問い合わせ、複数設備にまたがる判断、安全に関わる判断は慎重に見るべきだ。記事でも、安全判断は判定役に任せず、人の確認へ回す方針が示されている。日本の現場では、既存の手順書、設備台帳、履歴データとつながるか、そして履歴が長くなったときに判定が崩れないかが重要になる。
導入・PoCで確認したいこと
- 問い合わせをweak/strongに振り分けたときの正解率と、誤振り分け率
- 手順書の該当箇所を示せるか、保全担当者がそのまま確認できるか
- 1件あたりの往復回数と、修正を含めた総費用が下がるか
- 履歴が長い案件で、判定精度や入力上限にどの程度影響が出るか
- 安全に関わる案件を必ず人へ回す運用ルールが守れるか
現時点で分かっていないこと
この講演内容だけでは、日本企業の実業務でどの程度の費用削減になるかは確認できない。評価は237件や87件の検証結果で示されているが、自社の業務量や問い合わせの難易度が同じとは限らないためだ。
また、製造業のどの業種・どの設備で再現しやすいか、既存のWMSやMES、保全システムとどう接続するかは提供情報では分からない。判定役にどこまで履歴を渡すべきかも論点として挙がっているが、最適な長さは現場ごとに異なる。
こうしたAIの振り分け設計は、現場の問い合わせ対応や保全支援の設計にも直結します。自社の業務でどこまで自動化し、どこから人が確認するかを整理したい場合は、導入前の論点を一緒に洗い出すことが重要です。
ロボット導入・自動化をご検討の方へ
「自社にはどんなロボットが合うのか」お悩みではありませんか。貴社の現場課題に合わせた最適な活用方法をご提案します。まずはご相談・資料請求からお気軽にどうぞ。
出典: ロボスタ


