KT가 서울대·KAIST와 함께 진행한 AI 공동연구의 최종 성과를 8월 30일 공개했다. 연구의 초점은 더 큰 모델을 만드는 데 있지 않았다. 자율형 에이전트가 사용자의 의도와 상황을 얼마나 정확히 읽어내는지, 그리고 그 과정에서 소모되는 처리 부담을 얼마나 줄일 수 있는지에 놓였다. 국내 AI 개발의 관심사가 성능 경쟁에서 운용 비용으로 이동하고 있음을 보여주는 사례다.
서울대와의 연구는 에이전트의 상황·맥락 이해와 추론 기술을 다뤘다. 여기에 RAI, 즉 책임 있는 AI의 평가 기준을 세우고 답변의 신뢰성을 개선하는 작업이 붙었다. 한국어 사용 환경에 맞는 데이터셋을 모으고 사용자 행동을 예측하는 모델, 사용자 피드백을 학습에 되먹이는 강화학습 틀도 연구 범위에 들었던 것으로 파악된다.
KAIST와의 연구는 다른 쪽을 팠다. 프롬프트 압축은 모델에 넣는 문장에서 의미가 겹치거나 결과에 영향이 적은 부분을 걷어내 입력 길이를 줄이는 기법이다. 입력이 짧아지면 모델이 읽어야 할 토큰이 줄고, 토큰이 줄면 한 번의 응답에 드는 비용과 시간이 함께 내려간다. 에이전트가 한 작업을 처리하며 모델을 수십 번씩 부르는 상황에서 이 차이는 누적된다.
같은 주의 다른 흐름도 겹친다. SK는 AI 에이전트 시대에 토큰 거버넌스가 필요하다는 취지의 토큰 이코노미 관련 내용을 사내 자료로 다룬 것으로 파악된다. 해외에서는 세일즈포스와 워크데이의 AI 계약이 늘면서 과금이 정액 구독료에 사용량 기반 요금을 얹는 형태로 나타나고 있다. 쓴 만큼 청구되는 체계에서는 토큰 소모량이 곧 영업이익 항목이 된다.
기업 입장에서 관리 대상이 달라진다는 뜻이다. 모델 하나를 도입하는 결정보다, 도입한 뒤 하루에 몇 개의 토큰이 어디서 어떻게 쓰이는지를 들여다보는 일이 중요해진다. 부서별로 에이전트를 풀어놓았을 때 누가 얼마나 쓰는지 집계되지 않으면 요금 고지서를 받고 나서야 사용 패턴을 알게 된다.
신뢰성 연구가 비용 문제와 붙어 있는 것도 그래서다. 에이전트가 엉뚱한 답을 내면 사람이 다시 물어야 하고, 다시 묻는 만큼 토큰이 또 나간다. 한 번에 맞히는 비율을 올리는 일은 품질 개선이자 원가 절감이다. RAI 평가 기준을 세우는 작업이 윤리 항목을 넘어 운영 지표로 읽히는 이유다.
남은 것은 이 성과가 어디까지 제품에 들어가느냐다. KT는 연구 결과를 핵심 기술로 내재화하고 현장에 적용하겠다고 밝혔지만, 어떤 서비스에 언제 반영할지는 확정되지 않았다. 토큰 절감 폭이나 응답 지연 개선치 같은 측정값도 함께 나오지 않았다. 기술의 실제 쓸모는 그 수치가 공개되는 시점에 가려질 것이다.
사무실에서 AI에게 보고서 초안을 시키는 직원은 자기가 몇 개의 토큰을 썼는지 모른다. 알 필요도 없다. 대신 회사는 매달 그 합계를 정산한다.
압축과 신뢰성 연구가 잘 굴러가면 같은 요금으로 더 많은 일을 시킬 수 있고, 그만큼 AI를 부담 없이 부르는 사람이 늘어난다. 하루의 변화는 그 지점에서 시작된다.
