오픈라우터(OpenRouter)의 에이전트형 AI 토큰 사용량이 8월 10일 기준으로 7일 이동평균 7조3000억 개에 이르렀으며, 이는 2월 6일에 기록한 약 5000억 개에서 14배 증가한 수치다. 크립토브리핑(CryptoBriefing)에 따르면, 같은 기간 동안 일반 이용자의 토큰 사용량은 1조4000억 개로 2.8배 상승한 것으로 나타났다. 오픈라우터의 공식 블로그와 데이터 페이지에서는 구체적인 절대값은 공개되지 않았으나, 크립토브리핑의 수치로 확인됐다.

에이전트형 작업은 AI가 간단한 답변을 넘어서 목표를 달성하기 위해 일련의 단계적인 작업을 수행하는 방식이다. 검색, 코딩, 디버깅, 외부 도구 호출 등을 포함하기 때문에 대화형 이용 방식과 비교해 토큰 소모가 훨씬 빠르게 증가하는 경향이 있다. 오픈라우터는 6월 30일 블로그에서 에이전트형 작업이 2026년 초부터 본격적으로 증가할 것으로 예상하며, 2월 1일경에는 일반 이용자의 토큰 사용량을 초과할 것으로 전망하고 있다.

에이전트형 작업은 일반적인 이용자 작업보다 요청당 약 15배 많은 토큰을 소모하는 것으로 분석된다. 이 두 가지 유형의 트래픽은 오픈라우터가 내부적으로 구분된 7개의 신호를 통해 가중 합산하여 분석한다. 따라서 분류 기준이 변할 경우 집계 결과도 달라질 수 있으므로, 이번 수치는 반드시 오픈라우터의 기준으로 해석해야 한다.

오픈라우터는 여러 AI 모델을 통합하고, 사용자의 요청을 적절한 모델로 전달하는 API 기반의 추론 플랫폼으로 기능하고 있다. 이 플랫폼은 AI 모델이 사용자의 요청을 처리하여 답변을 생성하는 과정에서 지출된 사용량과 비용을 집계한다. 플랫폼 규모는 급격히 성장 중이며, 최근 오픈라우터는 월간 100조 개의 토큰을 라우팅하고 있다고 발표했다. 이는 사용자가 다양한 모델에 접근할 수 있는 가능성을 제공하며, AI 작업 및 모델 선택의 변화를 분석할 수 있는 자료로 활용되고 있다.

에이전트형 AI의 확산은 저렴한 개방형 가중치 모델의 확산과 관련이 깊은 것으로 분석된다. 오픈라우터의 2025년 사용량 분석에서는 개방형 가중치 모델이 전체 토큰 사용량의 약 3분의 1을 차지하고 있다고 전했다. 개방형 가중치 모델은 학습된 매개변수를 공개하여 사용자가 직접 배포하고 조정할 수 있는 모델로, 대량 호출이 가능한 특성 덕분에 반복 작업이 많은 에이전트형 서비스에 매우 효율적일 수 있다.

그러나 토큰 비중이 사용자가 실제로 지출하는 금액으로 변환된 경우와는 차이가 있을 수 있으며, 저가의 모델이 사용자에게 많은 토큰을 처리하는 한편, 이로 인한 지출 비율은 상당히 작을 수 있다. 에이전트형 AI의 사용량 증가가 반드시 기업의 매출 증대나 시장 점유율 확대와 같은 긍정적 결과로 연계되는 것은 아니다.

비용 관리는 에이전트형 AI의 사용량 증가와 함께 오픈라우터가 직면한 주요 과제로 떠오르고 있다. 오픈라우터는 7월 24일 요청을 부서, 작업 유형, 에이전트 복잡도 및 비용 센터 기준으로 자동 분류하는 '클래시파이어(Classifiers)' 기능을 출시하여, 비용 흐름을 추적할 수 있도록 하였다. 이는 에이전트가 여러 모델과 도구를 호출할 때 발생하는 비용을 명확히 파악하기 위한 조치다.

한편, 개발자 커뮤니티에서는 비용과 캐시 관련 문제 또한 제기되고 있다. 마이크로소프트의 비주얼 스튜디오 코드(VS Code) 깃허브 이슈에서는 오픈라우터의 API 키 연결 방식으로 인해 프롬프트 캐시가 작동하지 않아 에이전트 모드의 비용이 증가하고 있다는 지적이 등장했다. 에이전트형 AI의 발전은 곧 토큰 사용량 증가와 라우팅, 캐시, 과금 구조 개선 요구로 이어지고 있는 상황이다.