본문으로 건너뛰기
Jira 보고서의 토큰 소비량을 40.7% 줄인 ADK 설계
목차

Jira 보고서의 토큰 소비량을 40.7% 줄인 ADK 설계 (2026-05)

원문 정보

LY Corporation에서 Claude Code, Cline, ADK의 활용이 늘면서 토큰 소비량도 예상보다 크게 증가했습니다. 비용만의 문제는 아니었습니다. 프롬프트에 적은 지시를 무시하거나 중요한 정보를 빠뜨렸고, 대화가 길어지면 엉뚱한 답을 내놓기도 했습니다. LLM에 전달하는 정보, 곧 컨텍스트를 적절히 관리하지 않는 것이 주요 공통 원인 중 하나입니다.

Orchestration Development Workshop(ODW) 시리즈의 7번째 글은 이 문제를 Jira 주간 보고서 에이전트 실습으로 다룹니다. 앞선 ODW #2에서는 ADK로 싱글·멀티 에이전트를 개발하고 사내 시스템과 통합하는 방법을 소개했습니다. 이번에는 에이전트에 넘기는 정보를 설계해 비용을 줄이고 정확도를 개선하는 데 초점을 뒀습니다.

jira_weekly_report v1에 쌓인 티켓 세부 정보

jira_weekly_report의 v1은 목록 조회부터 보고서 작성까지 한 에이전트가 처리합니다. Jira 티켓 목록을 가져온 뒤 하나씩 세부 내용을 읽고, 보고서를 마크다운 표에 덧붙입니다. 모든 티켓에 이 작업을 반복하는 방식입니다.

문제는 작업 뒤에 남는 정보입니다. 티켓의 세부 사항이 한 컨텍스트에 계속 쌓이는 데다, 필요한지와 관계없이 모든 MCP 도구 정의까지 들어갑니다. 출력도 스키마로 제한하지 않아 불필요한 텍스트가 포함될 수 있습니다. 티켓 수가 늘수록 에이전트가 다루는 정보도 불어나는 구성입니다.

오래된 정보가 남는 컨텍스트 윈도

LLM이 텍스트를 처리하는 최소 단위는 토큰입니다. 한 번에 처리할 수 있는 토큰 한도인 컨텍스트 윈도는 대화를 담는 ‘그릇’에 해당합니다. 입력과 출력에 쓰인 총 토큰 수에 따라 비용이 정해집니다.

긴 작업에서는 이 그릇에 대화 이력과 중간 결과가 계속 쌓입니다. 지금 하는 일과 무관한 정보도 남습니다. 중요한 내용이 잡음에 묻혀 판단 정확도가 떨어지는 현상이 컨텍스트 부패입니다. 프롬프트의 지시를 무시하거나 대화 도중 엉뚱한 답을 내놓는 증상의 상당수가 여기서 비롯됩니다.

토큰 소비가 늘어난 배경에는 사용자 증가와 시행착오도 있었습니다. 에이전트의 역할은 단발성 작업에서 장시간 작업으로, 싱글 에이전트에서 멀티 에이전트로 넓어졌습니다. MCP 도구 정의까지 컨텍스트를 차지하는 상황에서 최적화 기법은 아직 충분히 퍼지지 않은 상태였습니다.

컨텍스트 엔지니어링은 추론 시점에 모델이 읽을 정보를 선별하고 관리하는 작업입니다. 지시문 설계에 집중하는 프롬프트 엔지니어링보다 범위가 넓습니다. 시스템 프롬프트와 도구 정의, 사용자 메시지와 RAG 데이터, 대화 이력과 세션 상태까지 설계 대상에 들어갑니다.

그렇다고 정보를 무조건 줄일 수는 없습니다. 너무 추상적이면 AI가 추측에 의존해 정확도가 떨어지고, 너무 상세하면 토큰을 낭비합니다. Anthropic 기사를 참고한 원칙은 유한한 토큰 안에서 필요한 고품질 정보를 최소한으로 선별하되, 작업에 부족하지 않은 수준으로 제공하는 것입니다.

루트가 읽을 정보를 줄인 ADK

워크숍에서 ADK를 고른 이유 중 하나는 팀의 지식을 에이전트 설계에 담아 공유하기 쉽다는 점입니다. Google이 제공하는 오픈소스 에이전트 구축 도구로, 내장 UI와 API 서버, 평가 기능을 갖추고 멀티 에이전트 구성도 지원합니다.

v2에서는 에이전트를 2개로 나눴습니다. 루트 에이전트는 티켓 목록 조회와 보고서 집계를 맡고, 개별 티켓을 읽는 일은 single_ticket_analysis_agent라는 서브 에이전트로 옮겼습니다.

도구도 역할에 맞춰 제한했습니다. MCP Toolset의 tool_filter로 루트에 허용한 MCP 도구는 jira_search뿐입니다. 티켓을 분석하는 서브 에이전트에는 tool_filter=["jira_get_issue"]를 지정했습니다. 이제 각 에이전트의 컨텍스트에는 자기 작업에 필요한 도구 정의만 들어갑니다.

루트는 서브 에이전트를 AgentTool로 호출합니다. 이때 서브 에이전트 내부의 도구와 컨텍스트는 루트에 노출되지 않고 최종 출력만 돌아옵니다. 티켓 분석 중 생긴 중간 데이터를 루트에 쌓지 않고, 반환된 보고서로 마크다운 표를 만드는 구성입니다.

입출력도 구조화했습니다. Pydantic으로 만든 InputSchema와 OutputSchema를 각각 input_schema와 output_schema에 지정해, 티켓 키 issue_key를 받고 보고서 report를 JSON 형식으로 반환하게 했습니다. ADK의 Structuring Data로 불필요한 텍스트를 줄인 것입니다. 서브 에이전트에는 사실만 쓰고 추측은 금지한다는 지시도 넣었습니다.

GPT-5로 10번씩 반복한 비교 실험

측정에는 after_model_callback을 사용하는 커스텀 플러그인 TokenTrackingPlugin을 썼습니다. 모델은 GPT-5이며, 컨텍스트 윈도 사용률은 총 토큰 수를 400,000으로 나눠 계산했습니다.

비교 대상은 2026년 1월 26일부터 2월 1일까지 FKE 팀의 Jira 티켓입니다. 같은 티켓과 같은 입력 프롬프트로 v1과 v2를 각각 10번 실행했습니다.

평가 항목v1v2
root_agent 컨텍스트 윈도 평균 사용률33.49%7.46%
전체 시스템 평균 총 토큰 소비174,643103,583

루트 에이전트의 컨텍스트 윈도 평균 사용률은 26.03포인트 줄었으며, 삭감률은 77.7%입니다. 서브 에이전트까지 포함한 전체 시스템의 총 토큰 소비량도 40.7% 감소했습니다. 코드 변경량은 많지 않았습니다. 도구 필터링과 컨텍스트 분리, 입출력 구조화를 함께 적용한 결과입니다.

조직 규모의 비용은 이 측정값을 바탕으로 환산했습니다. 팀마다 월 4회, 연 48회 실행한다고 가정하면 gpt-5의 1회당 비용은 ¥69에서 ¥41로 줄어듭니다. 1,000팀이 실행하는 경우에는 연 ¥333만에서 ¥197만으로, 약 ¥136만을 절감하는 계산입니다. 입력과 출력의 비율은 85:15, 환율은 $1=¥155를 적용했습니다.

조직 규모로 환산한 비용과 가정
모델규모v1v2연간 감축액
gpt-5-mini1회당¥14¥8¥6
gpt-5-mini100팀(연 4,800회)¥6.7만¥4.0만¥2.7만
gpt-5-mini1,000팀(연 48,000회)¥67만¥40만¥27만
gpt-51회당¥69¥41¥28
gpt-5100팀(연 4,800회)¥33만¥20만¥14만
gpt-51,000팀(연 48,000회)¥333만¥197만¥136만
  • gpt-5-mini 요금: 1M 토큰당 입력 0.25, 출력 2.00
  • gpt-5 요금: 1M 토큰당 입력 1.25, 출력 10.00
  • 입력:출력 85:15, $1=¥155, 월 4회 x 12개월 = 연 48회/팀 가정

팀의 작업에 맞춰 고르는 ADK 기능

다른 업무에 적용할 때도 출발점은 현재의 토큰 소비량입니다. 사용량을 재고, 도구 정의가 비대한지, 불필요한 이력이 쌓이는지, 출력에 군더더기가 있는지 확인합니다. 효과가 기대되는 기법부터 하나씩 적용한 뒤 전후의 토큰 소비량과 비용을 비교해 팀에 공유하는 순서입니다.

ADK에는 실습에서 쓴 기능을 포함해 컨텍스트 엔지니어링 컴포넌트가 9개 있습니다. 전체 대화 이력을 넣지 않고 에이전트끼리 정보를 공유하려면 세션 키-값 저장소인 State를 사용할 수 있습니다. 독립 작업에서는 include_contents로 이력 전달을 생략할 수 있고, Context Filter Plugin은 최근 N회의 이력만 유지하는 기능입니다.

실행 전후 처리는 Callbacks로 조절합니다. 불필요한 LLM 호출을 건너뛰거나 입력을 검증하고 출력을 후처리하는 데 쓰입니다. Sub-agents는 에이전트를 계층별로 배치해 각 에이전트가 최소한의 컨텍스트만 유지하도록 합니다. Workflow Agents는 순차·반복·병렬 실행 흐름을 LLM에 의존하지 않고 제어하므로, 흐름 제어에 드는 컨텍스트 소비를 줄이는 기능입니다.

워크숍에서는 이런 방법을 개인이 실천하는 데서 더 나아가 조직 단위로 교육하고 확산하면 생산성과 비용 절감 효과가 더 커질 것으로 기대했습니다.

같은 원칙을 적용하는 Claude Code와 Codex

Claude Code와 Codex에도 정보를 보존하거나 이력을 줄이고, 필요한 도구만 불러오는 기능이 있습니다. ADK에서 배운 컨텍스트 관리 원칙을 각 도구의 기능으로 옮겨 적용하는 방식입니다.

ADK 기법Claude CodeCodex
StateCLAUDE.mdAGENTS.md
include_contents/clear/clear
Tool Filter스킬, MCP 도구 검색enabled_tools, Agent Skills
Sub-agents서브 에이전트/태스크Cloud Container Isolation
Context Filter/compact/compact, config.toml
CallbacksHooks원문에 대응 항목 미기재

필요한 도구부터 불러오는 Claude Code

Claude Code는 MCP 도구 정의가 컨텍스트의 10%를 넘으면 도구 검색을 자동으로 켭니다. 모든 도구 정의를 미리 넣는 대신 필요한 도구를 요청할 때 불러오는 방식입니다. 원문이 인용한 사례의 토큰 소비량은 약 77K에서 약 8.7K로 줄었으며, 제시한 감소율은 약 85%입니다.

컨텍스트 사용률이 약 95%에 도달하면 대화 이력을 자동으로 압축하고 작업을 이어 갑니다. /compact 지시에 ‘API 키 및 DB 연결 정보 유지’처럼 남길 대상을 적을 수 있습니다. CLAUDE_AUTOCOMPACT_PCT_OVERRIDE=70과 같은 설정으로 압축 임곗값을 조정하는 것도 가능합니다.

‘생각’과 ‘말하기’를 조절하는 Codex

Codex에서는 추론과 출력에 쓰는 토큰도 따로 조절합니다. Reasoning Effort는 ‘생각’에 쓰는 토큰을 제어하는 기능입니다. low에서 xhigh까지 5단계로 조정하며, 변수명 변경 같은 단순 작업에 low를 쓰면 추론 토큰 소비량을 최대 30% 줄일 수 있습니다.

Text Verbosity는 ‘말하기’의 분량을 정합니다. 출력 상세도를 low/medium/high의 3단계로 조정하는 기능입니다. SQL 쿼리 생성이나 간단한 코드 수정처럼 긴 설명이 필요 없는 작업에서는 low로 출력 토큰을 줄일 수 있습니다.

CoT Passing은 이전 턴의 추론 과정을 다음 턴에 전달해 같은 추론을 처음부터 반복하지 않게 합니다. Codex CLI/IDE에서는 별도 설정 없이 자동으로 적용됩니다.

공통 입력에는 Prompt Caching을 사용합니다. 시스템 프롬프트, AGENTS.md, 도구 정의 등을 캐싱해 입력 비용을 최대 90%, 지연 시간을 최대 80%까지 줄일 수 있습니다. 캐시 유지 시간은 최대 24시간입니다.

마지막 수정 일자