KTがソウル大・KAISTとともに進めたAI共同研究の最終成果を8月30日に公開した。研究の焦点は、より大きなモデルをつくることにはなかった。自律型エージェントが利用者の意図と状況をどれだけ正確に読み取るか、そしてその過程で消費される処理負担をどれだけ減らせるかに置かれた。国内AI開発の関心が性能競争から運用コストへ移りつつあることを示す事例だ。
ソウル大との研究は、エージェントの状況・文脈理解と推論技術を扱った。ここにRAI、すなわち責任あるAIの評価基準を立て、回答の信頼性を改善する作業が加わった。韓国語の利用環境に合ったデータセットを集め、利用者の行動を予測するモデル、利用者のフィードバックを学習に還元する強化学習の枠組みも研究範囲に入っていた。
KAISTとの研究は別の方向を掘った。プロンプト圧縮は、モデルに入れる文章から同じ意味を二度述べている部分や結果への影響が小さい部分を取り除き、入力の長さを減らす手法だ。入力が短くなればモデルが読むべきトークンが減り、トークンが減れば一回の応答にかかる費用と時間がともに下がる。エージェントが一つの作業を処理する間にモデルを数十回ずつ呼び出す状況で、この差は積み重なる。
同じ週に出た別の知らせもここにつながっている。SKは、AIエージェント時代にトークンガバナンスが必要だという趣旨のトークンエコノミー関連の内容を社内資料で扱った。海外ではセールスフォースとワークデイのAI契約が増え、課金が定額の購読料に使用量ベースの料金を上乗せする形で現れている。使った分だけ請求される体系では、トークンの消費量がそのまま営業利益の項目になる。
企業にとっては管理の対象が変わるという意味だ。モデルを一つ導入する決定よりも、導入した後に一日で何個のトークンがどこでどのように使われるのかを見ることが重要になる。部署ごとにエージェントを解き放ったとき、誰がどれだけ使っているかが集計されなければ、料金の請求書を受け取ってはじめて使用のパターンを知ることになる。
信頼性の研究が費用の問題とつながっているのもそのためだ。エージェントが的外れな答えを出せば人がもう一度尋ねなければならず、尋ね直す分だけトークンがまた出ていく。一度で当てる比率を上げることは品質の改善であり原価の削減でもある。RAIの評価基準を立てる作業が倫理の項目を超えて運用指標として読まれる理由だ。
この成果がどこまで製品に入るかが次の関門だ。KTは研究結果を中核技術として内在化し現場に適用すると明らかにしたが、どのサービスにいつ反映するかは明らかにしなかった。トークン削減の幅や応答の遅延の改善値といった測定値もあわせて出なかった。技術の実際の有用性は、その数値が公開される時点で分かるだろう。
オフィスでAIに報告書の草案を任せる社員は、自分が何個のトークンを使ったかを知らない。知る必要もない。代わりに会社は毎月その合計を精算する。
圧縮と信頼性の研究がうまく回れば、同じ料金でより多くの仕事を任せることができ、その分AIを気兼ねなく呼び出す人が増える。一日の変化はその地点から始まる。
