リクエストごとの最適モデル選択

「オートモデルルーター」は、複数のLLMの中からユーザーの問い合わせ内容に最も適したモデルを判断し、自動的に振り分けるルーティング技術である。単一のモデルに依存する従来方式と異なり、リクエストの性質に応じて性能の高いモデルへ接続することで、応答品質の向上とコスト効率の両立を狙う。

KTはこの技術を自社のAIサービス基盤に組み込み、利用者には個別のモデル選択を意識させない形で最適な応答を提供する方針だ。

公開ベンチマークで2位

同技術は公開ベンチマークで2位を記録した。ベンチマークの具体的なスコアや競合モデルの詳細について、発表時点で明らかにされている情報は限られている。

KTは国内通信事業者としてAI分野への投資を進めており、今回のルーティング技術は同社のAIモデル活用能力を示す成果の一つと位置づけられる。サービスへの実装時期や対象範囲などの詳細は現時点で確定していない。

以上の経緯と公開ベンチマークでの2位獲得という事実関係から、本件の最終判定は「事実」である。