본문으로 건너뛰기
Uber의 장기 클라우드 약정을 떠받치는 다섯 물리 계층
목차

Uber의 장기 클라우드 약정을 떠받치는 다섯 물리 계층 (2026-05)

원문 정보

  • 원문: The 5 Layers Every Cloud Commitment Depends On
  • 매체 · 게시일: Uber Engineering Blog · 2026-05-05
  • 저자: Kamran Zargahi(VP of Engineering, 클라우드 엔지니어링 총괄)
  • 원문 내용을 바탕으로 재구성한 요약입니다.

서명 뒤에 시작되는 클라우드 공사

장기 클라우드 약정에 서명하면 거대한 엔지니어링 작업이 시작됩니다. 우버가 이 약정을 “열 자릿수 달러 가격표가 붙은 분산 시스템 문제”라고 부르는 이유입니다. 계약을 맺은 뒤에야 존재를 알게 되는 기술 영역도 많습니다. 그 영역을 이해하지 못한 채 내린 결정은 약정 기간 내내 시스템을 제약합니다.

우버는 이 일을 건설 공사에 빗댑니다. 기초를 놓기 전에 부지를 조사하고, 전기를 설계하기 전에 인입 용량을 정합니다. 기계 설비에 앞서 구조 하중을 해결해야 하고, 배관은 앞선 배치가 정해진 뒤에 놓습니다. 아래층이 위층을 제약합니다. 순서를 건너뛴 대가는 나중에 공사가 무너질 때 드러납니다.

클라우드에서도 검토 순서는 리전·가용 영역의 배치, 전력, 워크로드에 맞는 컴퓨트 생태계, SKU와 하드웨어 선택, 네트워크 토폴로지와 라우팅으로 이어집니다. 계약 뒤에도 검토는 끝나지 않습니다. 아키텍처가 달라지면서 생긴 어긋남을 방치하면 제약이 누적되고, 결국 설명하기 어려운 비용 편차로 나타납니다. 우버는 이런 어긋남을 소비 전력에서도 찾아냅니다.

5MW의 이전을 검증하는 전력 소비

온프레미스에서 5MW를 쓰던 워크로드를 클라우드로 옮긴다고 해 보겠습니다. 같은 일을 처리하는데 전력이 5MW보다 더 든다면, 마이그레이션에 필요한 용량을 잘못 계산했거나 하이퍼스케일러가 설계된 효율을 내지 못하고 있다는 뜻입니다. 기대값은 오히려 더 낮습니다. 우버의 전형적인 데이터센터는 PUE가 약 1.4이고 하이퍼스케일 시설은 약 1.2이므로, 같은 컴퓨트를 제공하는 데 드는 전체 전력은 약 15% 줄어야 합니다. 하이퍼스케일러가 규모의 이점을 실제로 누린다면 5MW는 약 4.25MW가 되어야 한다는 계산입니다.

이 수치는 이전을 마친 뒤 얻은 절감 실적이 아니라, 이전 결과를 대조할 기대치입니다. 기대와 어긋났을 때 전력 차이는 가장 빠른 진단 수단이 됩니다. 우버는 이 방법으로 잘못 설정한 배포, 과도하게 확보한 용량, 쓰이지 않으면서 전력만 소비하는 대규모 자원을 찾아냈습니다. 이 검증이 없으면 같은 문제가 몇 달 뒤 원인을 알 수 없는 비용 증가로 나타납니다.

전력은 검증 도구이기 전에 절대적인 한계이기도 합니다. 잠깐 한도를 넘어 쓰거나 다른 곳에서 빌릴 수 없습니다. 한도를 넘으면 성능을 점진적으로 낮출 방법이 없는 경우가 많고, 보통 곧바로 시스템이 다운됩니다. 클라우드 파트너의 전력 설계를 감사하는 이유입니다.

우버의 물리 인프라·데이터센터 팀은 시설에 전기가 어떻게 들어오는지부터 확인합니다. 2N, N+1, 분산, 블록 이중화 중 어떤 구성을 쓰는지, 현장 발전 설비가 있는지, 전용 전력 공급으로 전력망 의존을 없앴는지도 점검 대상입니다. 감사 범위는 전기·기계 설비 전체에 걸칩니다. UPS 토폴로지와 PDU 정격뿐 아니라 냉각 설비의 용량, 발전기가 보유 연료로 얼마나 오래 가동할 수 있는지까지 봅니다.

테트리스처럼 용량을 맞추는 리전과 AZ

전력이 이전 결과를 검증하는 숫자라면, 리전은 그보다 앞서 정해야 할 장소입니다. 어느 리전을 거점으로 삼을지는 대규모 배포에서 되돌리기 비싼 결정입니다. 리전은 대부분의 장애 유형에서 영향 범위를 정하고, 리전 사이의 거리는 상태 저장 서비스의 쓰기 경로에 지연을 부과합니다.

가까운 리전끼리도 제공하는 자원이 같지는 않습니다. 관리형 서비스, SKU별 확보 가능한 용량, 컴플라이언스 인증, 가용 영역(AZ) 수가 다릅니다. 리전 A에서 쓰는 관리형 데이터베이스가 수요 부족으로 리전 B에는 없을 수도 있습니다. 이런 차이는 정족수 기반 데이터 아키텍처에 부담이 됩니다. 서비스 제공 범위를 정하는 service-matrix-policy는 리전을 약정하기 전에 확인해야 할 자료입니다.

지연 수치도 측정 구간부터 읽어야 합니다. us-east-1과 us-east-2 같은 리전 사이에서 제공자 백본의 왕복 지연(RTT)은 한 자릿수 밀리초 초반으로 측정됐습니다. 하지만 공개된 RTT는 흔히 물리 계층에서 NIC와 NIC 사이를 잰 값입니다. 애플리케이션이 경험하는 것은 VM과 VM 사이의 지연이며, 여기에는 하이퍼바이저의 지연 변동, 다른 테넌트의 부하, 스위치와 SmartNIC 드라이버의 처리 부담이 들어갑니다. 멀티테넌트 환경에서 경합이 생기면 꼬리 지연에 베어메탈 기준보다 수백 마이크로초가 더해질 수 있습니다.

리전 안이라고 지연이 일정하지는 않습니다. AZ는 보통 10km 이상 떨어져 있고 전용 광케이블로 연결된 장애 격리 영역입니다. 우버가 측정한 AZ 간 RTT는 약 0.39ms에서 2.42ms였습니다. 동기 복제에 쓸 만한 지연이지만 편차는 남습니다. 쓰기 지연이 동기화 RTT를 따라 늘어나는 정족수 기반 설계에서는 이 범위를 함께 봐야 합니다.

존 이름만으로 물리적 위치를 알 수도 없습니다. 한 주요 하이퍼스케일러는 계정마다 물리 AZ와 존 이름을 무작위로 대응시킵니다. 한 계정의 us-east-1a와 다른 계정의 us-east-1a가 서로 다른 시설일 수 있다는 뜻입니다. AZ 자체의 형태도 제각각입니다. 여러 데이터 홀이 있는 건물 하나일 수도 있고, 여러 건물에 걸친 데이터 홀들의 묶음일 수도 있습니다.

데이터 홀 안으로 들어가면 차이는 더 커집니다. 전통적인 raised-floor 설계부터 AI 워크로드를 위한 현대적인 액체 냉각 시설까지 섞여 있습니다. 이런 시설들에 용량을 배치하면서 컴퓨팅 대칭성을 맞추는 일은 우버에게 테트리스처럼 느껴집니다. 그렇다고 이런 차이가 리전이나 존을 곧바로 탈락시킬 이유는 아닙니다. 워크로드를 옮기기 전에 차이를 이해하고, 그에 대응할 계획을 세워야 한다는 뜻입니다.

존의 경계를 넘을 때 달라지는 네트워크 비용

리전과 AZ의 배치는 지연뿐 아니라 데이터 전송 요금도 정합니다. 대규모 클라우드 배포에서 가장 꾸준히 과소평가되는 항목이 egress, 곧 경계 밖으로 나가는 데이터의 전송 비용입니다. 제공자의 가격 모델에는 데이터가 경계를 벗어날 때 비용을 물리는 data gravity가 반영돼 있습니다. 여러 경계를 넘나드는 대규모 동서 트래픽에서는 이 비용이 클라우드의 경제성을 무너뜨릴 수 있습니다.

같은 AZ 안에서 오가는 트래픽에는 일반적으로 데이터 전송 요금이 없습니다. 자주 통신하는 서비스를 같은 존에 모을 유인이 여기서 생깁니다. 같은 리전에 있다는 것만으로는 부족합니다. 우버가 말하는 존 격리(zonal isolation)는 비용을 줄이는 데서 그치지 않고 신뢰성과 장애 영역 격리에도 도움이 됩니다. 같은 리전이라도 AZ 사이를 오가면 대부분의 주요 제공자가 GB당 요금을 매기며, 대규모 서비스의 전송량에서는 무시하기 어려운 금액입니다.

리전 사이의 요율은 훨씬 높습니다. 네트워크 토폴로지를 설계할 때 리전 간 트래픽을 피하려는 이유입니다. egress가 GB당 과금되면 비용도 전송량을 따라 움직입니다. 이를 완화하는 방법은 고정 비용의 전용 포트를 쓰고, 리전 간 트래픽을 자체 물리 네트워크로 옮기는 것입니다. 많은 데이터를 리전 사이에서 동기식으로 주고받는 패턴에는 그 비용을 감수할 명시적인 근거가 있어야 합니다.

이 비용은 이전 전에 정확히 예측하기도 어렵습니다. 누가 데이터를 소비하는지 보이지 않으면 트래픽 패턴을 제대로 측정하기 어렵고, 실제로 마이그레이션 전부터 이를 정밀하게 파악하는 경우는 드뭅니다. 서비스가 어느 리전에 있는지뿐 아니라 어느 존의 누구와 얼마나 통신하는지가 비용 모델에 들어가야 합니다.

CPU보다 먼저 한도에 닿는 임시 포트

네트워크는 기대한 동작과 실제 동작 사이의 간극이 가장 크게 벌어질 수 있는 영역이기도 합니다. 기본 시나리오는 대개 잘 동작합니다. 문제는 자체 물리 네트워크와 하이퍼스케일러를 리전 간에 대칭적으로 연동하고, 리전 안에서도 서비스를 대칭적으로 제공하려 할 때입니다. 이런 배치에서는 엣지 케이스가 중요해집니다.

임시 포트 범위와 연결 추적의 상호작용은 흔히 늦게 발견되는 문제입니다. 마이크로서비스에서 흔히 보듯 연결이 빈번하게 생성되고 종료되면, CPU나 메모리의 한계에 닿기 전에 포트가 고갈될 수 있습니다. 컴퓨트 여유가 있어도 연결을 더 받아들이지 못하는 상황입니다.

물리적 조건도 지연에 영향을 줍니다. 멀티테넌트 환경에서는 리전·존의 물리적 특성, 코어당 존 크기, 동서 트래픽에 쓰이는 100GB·400GB 포트의 용량까지 살펴야 합니다. 제공자의 기본 시나리오가 동작한다는 사실만으로 우버의 네트워크와 맞물린 뒤의 동작까지 확인한 것은 아닙니다.

워크로드에서 거꾸로 정하는 컴퓨트 요건

클라우드 제공자의 기본 모델은 범용 가상화 SKU에서 출발합니다. 메모리 대 코어 비율은 보통 4:1로 고정돼 있고, 관리형 데이터베이스의 저장 엔진은 외부에서 들여다보기 어렵습니다. CI/CD는 제공자의 추상화 계층에 통합되며, 수평 오토스케일링은 CPU와 메모리 신호를 따라 움직입니다. 이 모델도 동작합니다. 하지만 복잡한 애플리케이션에는 CPU와 메모리 사용량만으로 설명되지 않는 고유한 신호가 있습니다.

우버는 설계 방향을 뒤집습니다. 워크로드의 컴퓨트·메모리·I/O 특성과 지연 SLA가 하드웨어 요건을 정하고, 그 요건에서 클라우드 설계가 나옵니다. 제공되는 SKU에 애플리케이션을 끼워 맞추는 접근과는 출발점이 다릅니다. 머신의 형태부터 선택 대상입니다.

가상화와 베어메탈 중 무엇을 쓸지, 메모리 병목이 있는 서비스에 7:1이나 8:1의 메모리 대 코어 비율을 줄지 모두 워크로드에 따라 정합니다. x86과 ARM, 어느 실리콘 세대를 쓸지도 실제 성능 측정으로 판단합니다. 지연에 민감한 경로에서는 처리량뿐 아니라 실행 중 드러나는 동작 차이도 확인 대상입니다. AI·ML로 가면 검토 범위가 GPU 메모리 대역폭, NVLink 패브릭, 추론 클러스터의 GPU 대 CPU 비율까지 넓어집니다.

이렇게 정한 요건을 실제 인스턴스와 맞추는 과정에서는 하드웨어 아래쪽까지 내려가야 합니다. SKU 선택은 vCPU와 메모리의 숫자를 고르는 일보다 넓습니다. 실리콘과 가상화 설계, 운영체제와 런타임의 동작, 스토리지 배치가 워크로드와 어떻게 맞물리는지를 함께 다루는 작업입니다.

같은 코드의 성능을 바꾸는 실리콘 선택

코드가 같아도 ARM과 x86에서 동작은 달라질 수 있습니다. Java 같은 관리형 런타임에서는 메모리 대역폭, 캐시 계층, 페이지 크기, GC 동작, 동기화 비용이 모두 관측 성능에 영향을 줍니다. 인스턴스 패밀리가 어떤 실리콘 세대 위에 만들어졌는지도 성능을 바꿉니다. Intel·AMD의 x86과 AWS Graviton, Ampere, Google Axion 같은 ARM 실리콘은 명령어 처리량, 메모리 대역폭, 가격 대비 성능이 다르며, 그 차이가 모든 워크로드에 똑같이 작용하지는 않습니다.

컴퓨트 집약적이거나 처리량 중심인 워크로드는 현세대 ARM에서 동급 x86보다 가격 대비 성능이 20%에서 50% 좋아질 수 있습니다. 모든 서비스의 기대치로 삼을 숫자는 아닙니다. p99 요구가 엄격한 지연 민감 워크로드에서는 결과가 달라질 수 있기 때문입니다. 어떤 코드를 어떤 부하로 실행하는지가 실리콘 선택의 판단 근거입니다.

운영 수요에 맞춰 다듬은 Ampere A4

우버가 OCI와 Ampere A4 인스턴스 패밀리를 놓고 협력한 사례는 이 차이를 보여 줍니다. 우버는 실제 운영 워크로드의 특성을 인스턴스 구성에 반영하면서 CPU 주파수, 배포 모델, 코어 수, 메모리 대 코어 비율, 로컬·원격 스토리지 사이의 선택을 검토했습니다. 지연에 민감한 상태 비저장 서비스에서는 코어당 높은 성능과 단순한 VM 배포가 우선이었습니다. 처리량 중심 스토리지 시스템은 병렬성, 메모리 효율, 스토리지 지역성에 더 무게를 뒀습니다.

원하는 구성이 제공자의 물리 머신과 잘 맞는지도 문제입니다. 베어메탈이나 가상화 설계가 요구하는 코어 대 메모리 비율, 페이지 크기 등이 물리 머신과 맞지 않으면 호스트에 쓰지 못하는 자원이 남습니다. 남은 용량에도 비용은 듭니다. 그 비용을 어떻게 배분할지는 설계와 용량 계획에서 풀어야 할 질문입니다.

우버는 이미 출시된 SKU를 비교하는 데서 멈추지 않습니다. 클라우드 제공자와 실리콘 파트너에게 운영 워크로드의 특성을 전달하고, 이를 더 적합한 시스템 구성과 인스턴스 사양으로 구체화합니다. 있는 제품을 벤치마크하는 데서 한발 더 나아가, 어떤 구성이 실제 운영에 투입될 준비를 갖추게 될지에도 영향을 주려는 접근입니다. 쉽게 얻을 수 있는 효율 이득이 대부분 소진된 뒤에는 하드웨어와 소프트웨어를 더 긴밀하게 함께 설계해야 남은 개선 여지를 찾을 수 있습니다.

약정 전에 확인하는 전체 스택의 준비도

대규모로 약정하기 전에는 특정 워크로드를 특정 인스턴스 패밀리에서 시험해야 합니다. 합성 테스트라도 출발점이 됩니다. 대표 부하를 걸고 애플리케이션을 프로파일링하며, 부하가 오래 지속될 때와 장애·버스트가 생길 때 실리콘과 인스턴스가 어떻게 동작하는지 측정합니다. 평상시 벤치마크 수치만으로는 이 검증을 대신할 수 없습니다.

검증 대상은 칩에 한정되지 않습니다. OS, 커널, 런타임, 스토리지 경로, 오케스트레이션, 애플리케이션까지 전체 스택이 준비돼 있어야 합니다. 새 인스턴스를 도입할 만큼 각 계층이 성숙했고 실제로 잘 동작하는지를 확인하는 과정입니다. 실리콘 선택지가 있다는 사실과 그 선택지를 운영에 쓸 수 있다는 사실은 별개입니다.

GPU와 가속기에도 같은 기준을 적용합니다. MIG(multi-instance GPU)로 GPU를 나눠 쓰는 효율 개선부터 AMD Instinct MI300X, AWS Inferentia, AWS Trainium의 초기 평가까지 범위가 넓습니다. 어느 경우든 준비도가 뒷받침될 때만 선택지가 가치로 이어집니다.

실리콘의 종류가 빠르게 늘면서 평가와 검증을 맡을 전담 기능도 필요해졌습니다. 선택지를 넓히면 복원력을 높이고 단일 벤더에 대한 의존을 줄일 수 있습니다. 실리콘은 비용과 성능뿐 아니라 신뢰성에도 영향을 주며, 그 차이는 전체 스택과 운영 중 동작에 나타납니다. 수천 인스턴스의 시간당 비용이 걸린 규모에서는 이런 검증과 공동 설계에 들이는 투자의 효과가 상당합니다.

몇 분 안에 비울 수 있는 존

우버가 컴퓨트 생태계에서 주요 운영 역량으로 다루는 것은 이동성입니다. 한 리전에서 다른 리전으로, 한 존에서 다른 존으로, 온프레미스와 클라우드 사이에서 트래픽을 몇 분 안에 옮길 수 있습니다. 전체를 전환할 수도, 일부씩 옮길 수도 있습니다. 한 존의 트래픽을 완전히 비우거나 서서히 줄이는 작업을 어느 방향으로든 실시간으로 수행합니다.

이 통제권은 추상화 계층의 위치에서 나옵니다. 우버의 추상화 계층은 제공자의 네이티브 계층 위에 있습니다. 그래서 트래픽 이동을 우버가 직접 제어할 수 있으며, 이런 운영 자율성이 아키텍처와 마이그레이션 전략이 지향하는 역량입니다. 하드웨어를 고르는 일에 이어, 소프트웨어가 그 하드웨어를 어떻게 다룰 것인지가 남습니다.

저자는 후속 글에서 자체 컨트롤 플레인 관리, 서비스 수준의 스케일링, 소프트웨어와 하드웨어 사이의 추상화를 다루겠다고 예고합니다. 기반 인프라의 가치를 온전히 활용하기 위한 소프트웨어 계층의 이야기입니다. 여기에 물리·소프트웨어 계층을 뒷받침하는 계약 계층도 이어집니다. 법적 약정이 엔지니어링한 시스템을 보호할 수도, 그 시스템을 해칠 수도 있다는 문제를 함께 다룰 예정입니다.

원문에 제시된 측정값과 기대치
항목값
리전 간 RTT 예시us-east-1과 us-east-2, 한 자릿수 밀리초 초반
공유 환경의 꼬리 지연 추가분베어메탈 기준 대비 수백 마이크로초
AZ 간 거리통상 10km 이상
우버 측정 AZ 간 RTT약 0.39ms ~ 2.42ms
PUE 비교우버 데이터센터 약 1.4, 하이퍼스케일 시설 약 1.2
이전 후 전력 감소약 15% (5MW 온프레미스는 약 4.25MW 기대)
범용 SKU 메모리 대 코어 비율보통 4:1
맞춤 메모리 대 코어 비율 예시7:1, 8:1
ARM 가격 대비 성능 개선 가능폭현세대 ARM이 동급 x86 대비 20% ~ 50% (컴퓨트 집약, 처리량 중심 워크로드)
동서 트래픽 포트100GB, 400GB
같은 AZ 내부 전송일반적으로 데이터 전송 요금 없음
AZ 간 전송대부분 주요 제공자가 GB당 요금
리전 간 전송훨씬 높은 요율
마지막 수정 일자