목차
기존 API를 에이전트 도구로 바꾸는 우버의 MCP Gateway (2026-10)
원문 정보
- 원문: Designing MCP Gateway Uber’s MCP Management Platform
- 매체 · 게시일: Uber Engineering Blog · 2026-10-02
- 저자: Alok Srivastava(Principal Engineer), Deepanshu Mehndiratta(Senior Staff Engineer), Gaurav Gill(Sr. Software Engineer), Prashik Sahare(Senior Software Engineer), Vaibhav Tayal(Software Engineer II), Shiven Tripathi(Software Engineer II), Uday Kiran Medisetty(Distinguished Engineer), Abhishek Bhatia(Staff Software Engineer)
- 원문 내용을 바탕으로 재구성한 요약입니다.
공통 기반 없이 늘어난 MCP 도구
실시간 업무 맥락을 읽고 내부 서비스를 조회하며 사용자 대신 작업까지 실행하는 에이전트는 훨씬 유능했습니다. 우버가 초기에 붙인 MCP(Model Context Protocol) 연동만으로도 확인한 변화입니다. 팀이 코드와 데이터, 운영 시스템을 다루는 방식도 달라졌습니다.
연동이 늘자 다른 문제가 보였습니다. 수십 개 팀이 저마다 MCP를 연결하면서 인프라를 중복으로 만들었고, 도구는 특정 서비스나 에이전트 구현에 묶였습니다. 필요한 도구를 찾기도, 안정적으로 운영하기도 어려웠습니다. 수백 개 팀이 에이전트 워크플로를 시도하는 상황에서 이 방식을 계속 쓰면 운영 복잡도와 보안 위험, 개발자가 겪는 불편은 더 커질 터였습니다.
우버는 이미 운영하던 API에서 해법을 찾았습니다. 에이전트에게 도구를 제공하는 가장 빠른 길이었습니다. 수천 개 내부 서비스를 다시 작성하는 대신, HTTP·gRPC·TChannel API를 MCP 도구로 변환하는 공통 마이크로서비스인 MCP Gateway를 만들었습니다. 기존 백엔드는 그대로 두고, 프로토콜 차이와 보안·관측 기능을 게이트웨이에서 처리합니다.
도구를 관리하는 곳과 실행하는 곳은 나눴습니다. 컨트롤 플레인인 MCP Registry에는 기존 API에서 생성한 도구부터 MCP를 직접 구현한 네이티브 서버까지 등록됩니다. 무엇이 있고 누가 소유하며 사용을 허용했는지 판단하는 기준입니다. 데이터 플레인인 Proxy Gateway는 에이전트의 MCP 호출을 받아 해당 백엔드로 전달하고 응답을 돌려줍니다. 현재 800개가 넘는 MCP 서버와 5000개가 넘는 도구를 호스팅하는 플랫폼입니다.
우버가 대규모 에이전트 시스템에서 가장 어렵다고 짚은 부분도 AI 자체보다 발견·보안·신뢰성이라는 ‘연결 조직’이었습니다. 에이전트가 사용자를 대신해 행동할 만큼 믿을 만해지려면 이 부분이 갖춰져야 했습니다.
JSON과 기존 서비스 사이의 Proxy Gateway
에이전트가 접속하는 주소는 서버마다 하나씩 있는 /<service-name>/mcp입니다. Proxy Gateway는 Registry의 설정을 바탕으로 가상 MCP 서버를 동적으로 만들고, 내장 프록시 서버에서 요청을 해당 서버 핸들러로 연결합니다. 핸들러는 호출할 도구와 그 도구가 연결된 백엔드를 모두 알고 있습니다.
IDL로 정의된 서비스라면 핸들러가 HTTP 엔드포인트 설정이나 gRPC·TChannel 프로시저를 메모리에 매핑해 둡니다. 요청이 들어오면 JSON을 백엔드의 전송 형식에 맞추고, Protobuf나 Thrift 바이트로 직렬화해 서비스로 보냅니다. 돌아온 바이트 응답은 다시 MCP와 호환되는 JSON으로 변환됩니다. 이 변환 덕분에 백엔드 서비스의 코드를 바꾸지 않아도 됩니다.
실제 서비스 호출은 우버의 서비스 메시 사이드카인 Muttley를 거칩니다. 기존 서비스 간 라우팅 기능을 그대로 사용하는 경로입니다. 네이티브 MCP 서버는 별도로 프로토콜을 변환할 이유가 없으므로, 가상 프록시 서버로 등록해 요청과 응답을 투명하게 전달합니다.
Jira나 Google 같은 서드파티 MCP 서버에는 토큰을 교환하는 단계가 더 있습니다. 게이트웨이는 호출자의 사용자 토큰을 전달하면서 인가와 속도 제한, 민감 데이터 가림을 적용합니다. 이어서 서드파티 MCP 서비스가 내부 사용자 토큰을 해당 서드파티의 인증 토큰으로 바꾸고 외부 서버를 호출합니다.
도구 설정을 바꿀 때마다 이 런타임을 다시 배포하지는 않습니다. Proxy Gateway가 컨트롤 플레인의 서버·도구 설정을 계속 받아 정해진 주기로 메모리 상태를 갱신하기 때문입니다. 도구 정의를 수정하거나 사용을 허용한 변경은 재시작이나 재배포 없이 반영됩니다.
도구를 켜기 전 소유자의 승인
서버를 자동으로 만드는 것과 에이전트에게 사용을 허용하는 것은 별개입니다. MCP Gateway에서는 모든 서버와 도구가 비활성 상태로 출발합니다. 서비스 팀이 생성 과정에 참여하지 않았더라도 소유권과 통제권은 그 팀에 남습니다. 도구를 사용하려면 소유 팀의 검토와 활성화가 먼저입니다.
소유자는 자동으로 생성된 도구 정의를 고칠 수 있습니다. 도구 설명이 바뀔 때마다 설정 diff가 생기며, 서버 소유자가 승인해야 배포됩니다. 문제가 있으면 이전의 알려진 버전으로 되돌릴 수도 있습니다. 자동 발견은 서비스 팀의 작업을 덜어 주지만, 발견했다는 이유만으로 도구를 노출하지는 않습니다.
활성화한 도구에도 호출 권한을 따로 적용합니다. 우버의 내부 접근 제어 시스템이 호출자를 사람·서비스·에이전트로 구분하고 차터(charter) 정책에 따라 인가합니다. 서버별 정책이 기본이며, 필요하면 도구 수준에서 덮어쓰는 방식입니다. 도구 응답의 PII와 민감 데이터도 기본으로 가립니다. 도구를 사용할 수 있는 상태와 특정 호출자가 그 도구를 사용할 권한을 함께 관리하는 구성입니다.
IDL과 하트비트를 읽는 AutoCrawler
등록할 도구를 모으는 일까지 서비스 팀에 맡겼다면 속도를 내기 어려웠습니다. 우버에는 HTTP·gRPC·TChannel API를 제공하는 내부 서비스가 수천 개나 있습니다. 각 팀이 MCP 서버를 직접 작성하기를 기다리는 대신, 이미 있는 API 정의를 읽어 도구로 만드는 AutoCrawler를 구축했습니다.
AutoCrawler는 Cadence 기반의 분산 워크플로 시스템입니다. IDL 레지스트리와 내부 서비스 신호를 구독하고, cron이 정해진 주기로 Cadence 워크플로를 실행해 새 서비스와 API, 스키마 변경을 찾습니다. 발견한 대상에 맞춰 서버 정보를 생성하거나 갱신하고 도구 정의와 스키마를 Registry에 등록합니다. 서비스 팀의 작업을 기다리지 않고 수천 개 서비스에서 도구를 수집하는 방식입니다.
Protobuf나 Thrift IDL이 있는 서비스에서는 서비스:API 그룹마다 가상 MCP 서버를 만들거나 갱신합니다. 이어서 IDL에서 메서드 이름과 요청·응답 스키마, 문서 주석을 읽습니다. 이 스키마와 주석은 LLM이 에이전트에게 유용한 도구 설명을 작성하는 재료입니다. Protobuf·Thrift 스키마는 MCP와 호환되는 JSON-RPC 2.0 스키마로 변환하고, 도구 정의와 함께 Registry에 등록하거나 갱신합니다. 새로 등록한 도구의 기본 상태는 비활성입니다.
네이티브 MCP 서버는 발견하는 신호가 다릅니다. 우버의 프레임워크인 MCPFx로 만든 서버는 자신의 존재와 준비 상태를 알리는 하트비트 메트릭을 냅니다. AutoCrawler가 이 신호에서 새 서버를 발견하면 listTools를 호출해 도구와 스키마를 가져옵니다. 그 결과로 Registry에 가상 프록시 MCP 서버를 만들며, 여기서도 서버와 도구는 소유자의 검토를 기다리는 비활성 상태입니다.
수백 개 서버의 단일 진입점 Omni MCP
도구를 모으는 데 성공하자, 이번에는 도구가 너무 많아 생기는 문제가 드러났습니다. 서버 수백 개와 도구 수천 개를 에이전트가 알아야 한다면 컨텍스트가 불어나고 비용도 커집니다.
MCP에는 서버를 가로질러 검색하는 기능이 없습니다. 도구 목록을 요청하려면 어느 서버에 물어볼지부터 알아야 합니다. 수백 개 서버의 URL과 자격 증명, 도구 목록을 일일이 연결하는 방식은 번거로운 데다 모델의 컨텍스트 한도까지 차지했습니다.
우버는 모든 게이트웨이 서버에 접근하는 단일 프록시 서버인 Omni MCP를 만들었습니다. 에이전트가 전체 목록을 한꺼번에 받는 대신, 필요한 서버에서 도구로, 도구에서 스키마로 범위를 좁히도록 했습니다. 이 과정에 사용하는 도구는 다음 역할을 맡습니다.
discover_server: 질의 의도에 맞는 MCP 서버 탐색discover_tools: 선택한 서버의 도구 목록 조회get_tool_schema: 사용할 도구의 JSON 스키마 조회invoke_tool: 도구 호출
에이전트는 필요한 정보를 점진적으로 가져오며 토큰을 아낍니다. 진입점은 하나로 모였어도 접근 제어를 비롯한 기존 게이트웨이 기능은 그대로 적용됩니다.
필요한 필드만 남기는 Response Projection
도구를 찾는 과정에서 컨텍스트를 아껴도, 호출 결과를 통째로 받으면 다시 부담이 생깁니다. 우버는 응답에서도 필요한 필드만 가져오도록 했습니다. GraphQL과 닮은 응답 프로젝션(Response Projection) 방식입니다.
게이트웨이는 도구 요청 스키마에 필드를 하나 추가합니다. LLM이 그 필드에 필요한 데이터의 중첩 경로를 배열로 지정하면, 게이트웨이가 실행 시점에 응답을 잘라 지정한 필드만 돌려줍니다. 이 방식은 기업 규모에서 API 스키마의 MCP 호환성을 확장하는 데도 도움이 됐습니다.
파일에 도구 출력을 담는 Code Mode
셸 환경에서 실행되는 코딩 에이전트에게는 출력 자체를 다르게 다루는 방법도 있었습니다. 도구 응답 전체를 모델 컨텍스트에 넣기보다 파일에 저장한 뒤 필요한 부분을 읽는 편이 더 효과적이었습니다. 우버는 이 작업 방식을 코드 모드(Code Mode)로 제공했습니다.
코드 모드는 에이전트 작업용 우버 CLI인 aifx를 사용합니다. MCP 서버를 설치하지 않아도 게이트웨이를 거쳐 도구를 호출하며, MCP 도구 정의를 컨텍스트에 넣지 않고도 알맞은 도구를 찾습니다. 에이전트가 사용하는 명령은 아래와 같습니다.
aifx mcp list: 사용 가능한 MCP 서버 목록 조회aifx mcp search: 모든 MCP 서버에서 도구 검색aifx mcp call: 게이트웨이를 거쳐 MCP 도구 호출
에이전트는 이 명령들을 한 줄로 엮어 실행하고, 결과를 파일에 씁니다. 이후 grep으로 필요한 부분만 골라 읽으면 됩니다. 코드 모드는 현재 우버에서 코딩 에이전트가 MCP 도구를 사용하는 기본 방식입니다.
원문에 나온 규모와 구성 요소
| 항목 | 값 |
|---|---|
| 호스팅 중인 MCP 서버 | 800개 이상 |
| 호스팅 중인 도구 | 5000개 이상 |
| 지원 프로토콜 | HTTP, gRPC, TChannel |
| 컨트롤 플레인 | MCP Registry |
| 데이터 플레인 | Proxy Gateway (서버당 /<service-name>/mcp 엔드포인트) |
| 도구 발견 | AutoCrawler (Cadence 워크플로, cron 주기 실행) |
| 신규 서버·도구 기본 상태 | 비활성 |
| 네이티브 서버 프레임워크 | MCPFx (하트비트 메트릭으로 발견) |
| 하류 요청 실행 | Muttley (서비스 메시 사이드카) |
| 인가 | 내부 접근 제어 시스템의 차터 정책 (서버 수준, 도구별 덮어쓰기 가능) |
| Omni MCP 도구 | discover_server, discover_tools, get_tool_schema, invoke_tool |
| Code Mode CLI | aifx mcp list, search, call |