목차
서비스 하나에서 수천 개로 확대한 Uber의 Arm 도입 (2025-02)
원문 정보
- 원문: Adopting Arm at Scale: Transitioning to a Multi-Architecture Environment
- 매체 · 게시일: Uber Engineering Blog · 2025-02-27
- 저자: Andreas Lykke(Senior Software Engineer, stateless Cloud Platform), Jesper Borlum(Sr. Staff Engineer, Stateful Platform 팀 리드)
- 원문 내용을 바탕으로 재구성한 요약입니다.
서비스 하나 뒤에 기다리던 수천 개 서비스
우버는 2,800개가 넘는 stateless Go 서비스를 Arm 호스트로 옮겼습니다. 우버의 Oracle Cloud Infrastructure 용량 중 거의 20%를 x86에서 Ampere A1과 A2 CPU로 전환했고, 심각한 사고는 없었습니다. 이 규모에 이르기까지는 서비스마다 다른 의존성과 빌드 방식, 성능 특성을 확인하는 작업이 필요했습니다.
Arm 도입 과정을 다룬 2부작 중 이번 글은 두 번째 편입니다. 1편에서는 단일 아키텍처를 전제로 만든 인프라 계층을 손보고, 배포 플랫폼에서 간단한 서비스 하나를 Arm용으로 빌드해 배포하는 데까지 갔습니다. 첫 이정표에 도달한 것입니다.
그다음 목표는 5,000개가 넘는 서비스로 이루어진 플랫폼 전체였습니다. 몇 개 서비스가 돌아가는 것을 확인했어도 수년간 쌓인 의존성과 여러 저장소의 빌드 관행까지 검증된 것은 아니었습니다. 도입 범위를 넓힐수록 오랫동안 숨어 있던 문제가 드러났고, 멀티 아키텍처를 프로덕션의 일상적인 운영 조건으로 다뤄야 했습니다.
먼저 Arm으로 옮길 언어별 모노레포
모든 저장소를 같은 속도로 전환하기는 어려웠습니다. 우버 서비스는 대부분 언어별 모노레포 세 곳에서 빌드됩니다. CPU 할당 비중은 Go 60%, Java 20%, 웹 10%이고, 나머지는 여러 마이크로 저장소에 흩어진 서비스가 사용합니다.
Google Bazel로 빌드하는 모노레포는 빌드 방식이 비교적 균일해 Arm으로 옮기기 수월했습니다. 마이크로 저장소에는 저마다 맞춤 툴체인이 있어 시간이 더 걸렸습니다. 그래서 모노레포부터 전환했습니다. 중요한 마이크로 저장소의 서비스에만 드물게 예외를 두는 순서였습니다.
Linux Arm을 지원해야 했던 모든 의존성
서비스를 Arm용으로 빌드하려면 그 서비스가 가져다 쓰는 의존성도 준비되어 있어야 합니다. 언어별 모노레포의 모든 의존성에 Linux Arm 호환 빌드가 필요했던 이유입니다. 사내 JFrog Artifactory에서 받아 오는 Bazel 저장소 의존성부터 Arm용으로 준비했습니다.
C++ 의존성에는 크로스 컴파일에 강한 Zig CC 컴파일러를 사용했습니다. 이를 Bazel 툴체인에 연결할 래퍼는 우버가 직접 개발했고, 크로스 컴파일러 도구의 토대는 Adam Bouhenguel이 처음 만든 bazel-zig-cc를 복제한 것이었습니다. 이렇게 Arm을 빌드 시스템이 지원하는 또 하나의 타깃으로 다룰 수 있게 됐습니다.
대량 빌드에서 드러난 낡은 이미지
빌드 파이프라인만 갖추면 끝날 것 같았지만, 이미지는 별도의 작업이었습니다. 1편에서 마련한 파이프라인은 x86과 Arm 이미지를 모두 만들 수 있었습니다. 그런데 서비스를 대량으로 빌드하자 오래된 이미지 의존성과 Arm 비호환 문제가 드러났습니다.
흔한 문제는 단일 아키텍처용 베이스 이미지였습니다. 여기에 의존하던 서비스는 최신 멀티 아키텍처 이미지로 바꿨습니다. Arm용으로 빌드된 적이 없는 Debian 패키지도 있었습니다. 이런 패키지는 하나씩 다시 빌드하거나 다른 패키지로 대체해야 했습니다.
시간이 많이 드는 작업이었습니다. 화려한 성과로 보일 일도 아니었지만, 멀티 아키텍처 빌드를 기본으로 삼으려면 반드시 거쳐야 했습니다. 파이프라인이 두 아키텍처를 지원하는 것과 그 안에서 빌드하는 모든 서비스가 두 아키텍처를 지원하는 것 사이에는 이런 오래된 의존성이 남아 있었습니다.
빌드 성공만으로 알 수 없는 아키텍처 차이
이미지를 만들었다고 서비스의 정확성과 성능까지 확인된 것은 아닙니다. 우버는 개발자가 코드를 작성하는 환경도 바꿨습니다. 내부 도구를 갖춘 원격 개발 환경 Dev Pod는 원래 x86만 지원했는데, Arm에서도 서비스를 빌드하고 실행하고 디버깅할 수 있도록 확장했습니다. 개발 중에 양쪽 아키텍처를 직접 접할 수 있게 된 것입니다.
CI에서도 두 아키텍처의 단위 테스트를 모두 실행하도록 했습니다. 같은 비즈니스 로직이 아키텍처에 따라 달라지는지 일찍 확인하기 위해서입니다. 예를 들어 Go는 융합 부동소수점 연산을 허용하며, 이런 연산에서는 반올림 결과가 달라질 수 있습니다. 작은 수치 차이라도 운영에 영향을 주기 전에 찾아야 했습니다.
순간적으로 치솟는 성능과 다른 Ampere A1
성능 검증에서는 Ampere A1과 A2 인스턴스를 기존 x86 플릿과 비교했습니다. 프로덕션 조건을 모사한 자동 성능 테스트를 돌리고, 제품 팀도 Arm에서 합성 부하 테스트를 진행했습니다. 후자는 통제된 벤치마크만으로는 놓쳤던 특성을 보여 줬습니다.
Ampere A1이 그 예입니다. 일부 x86 호스트는 여건에 따라 순간적으로 성능이 치솟지만, A1은 예측 가능하고 꾸준한 성능을 냈습니다. 처음에는 의외였던 이 차이를 우버는 설계 철학의 차이로 이해했습니다. 어느 한쪽의 성능 수치만 확인해서는 호스트의 동작을 충분히 설명할 수 없었던 것입니다.
이 결과는 Arm이 전체 성능 범위에서 어느 위치에 있는지 판단하는 근거가 됐습니다. x86과 Arm 호스트 사이에 네트워크 트래픽을 어떻게 나눌지도 이 특성을 바탕으로 정했습니다. 테스트 통과 여부와 함께 실제 부하에서 보이는 성능까지 알아야 도입 계획을 세울 수 있었습니다.
다음에 옮길 서비스를 고르는 Cadence
검증 방법이 있어도 수천 개 서비스를 사람이 하나씩 옮기면 오래 걸리고 실수하기 쉽습니다. 우버는 어떤 서비스를 어느 존에서 Arm으로 옮길지 적은 상위 계획을 만들고, 그 목표 상태에 맞춰 전환을 진행하는 시스템을 구축했습니다. 단계마다 옮길 서비스를 정하는 reconciliation 루프는 Cadence 워크플로로 구현했습니다.
한 번에 전부 옮기는 ‘빅뱅’ 방식은 피했습니다. 시스템은 작고 통제된 배치로 서비스를 옮겼습니다. 각 전환이 계획을 따르게 하고, 문제가 생겨도 관리할 수 있는 범위 안에서 진행하려는 선택이었습니다.
다음 등급의 전환을 결정하는 검토 관문
자동화가 따라야 할 순서도 정했습니다. 우버의 모든 서비스에는 핵심 비즈니스 흐름에서 얼마나 중요한지를 나타내는 등급(tier)이 있습니다. 중요도가 낮은 서비스부터 옮겨 문제를 먼저 찾고 해결했습니다. 한 등급에서 큰 서비스 집단의 전환을 마칠 때마다 프로덕션 준비 검토를 거쳤습니다. 안정성과 성능을 평가해 해당 등급의 도입을 완료해도 되는지, 다음 등급을 시작해도 되는지 판단하는 관문입니다.
환경별로는 비프로덕션을 먼저 옮겼습니다. 이곳을 시험 대상으로 삼은 뒤 프로덕션으로 진행했습니다. 프로덕션 안에서는 가용 영역을 하나씩 전환했습니다. 큰 사고가 나면 해당 존의 트래픽을 빼내거나 다른 존으로 장애 조치할 수 있도록 범위를 제한한 것입니다.
배포 뒤의 차이를 추적하는 모니터링
옮긴 서비스가 계속 기대대로 동작하는지도 살폈습니다. 모니터링 도구는 레이턴시, 에러율, CPU 사용률, 자원 스로틀링을 추적했습니다. x86과 Arm 사이뿐 아니라 장애 도메인 사이에서도 A/B 비교를 진행해, 작은 차이가 사고로 번지기 전에 성능이나 동작의 퇴행을 찾아냈습니다.
배포할 때마다 테스트가 자동으로 실행됐고, 배포 뒤에는 지속적인 모니터링이 이어졌습니다. 경보가 울리거나 SLA가 떨어지면 전환 과정도 자동으로 롤백했습니다. 테스트와 관찰, 되돌리기까지 자동화한 덕분에 사람이 매번 개입하지 않아도 전환을 진행할 수 있었습니다.
개발자가 Arm을 직접 다뤄 본 경험, 양쪽 아키텍처의 테스트, 부하 검증과 모니터링이 이 절차를 뒷받침했습니다. 수천 개 서비스를 옮기는 일이 믿음에 기대어 뛰어드는 도약으로 남지 않게 한 준비였습니다.
2,800개 Go 서비스 다음의 워크로드
이때까지 성과를 확인한 대상은 stateless Go 서비스였습니다. 우버는 가격 대비 성능 향상과 더 유연한 플랫폼을 이점으로 꼽았고, 탄소 발자국을 줄이는 방향으로도 한 걸음 나아갔다고 평가했습니다. 오래된 가정을 다시 검토하고 레거시 의존성을 갱신하면서, 우버 규모에서도 Arm과 x86을 함께 운영할 수 있음을 확인한 것입니다.
Java 서비스는 아직 다음 차례였습니다. 우버는 원문이 발표된 2025년을 기준으로 다음 해에 Java 서비스가 합류할 것으로 기대했습니다. 더 어려운 대상도 남아 있었습니다. Redis, etcd, Apache Cassandra, MySQL 같은 stateful 워크로드와 M3, 배치 처리, 머신러닝 작업입니다. 각 아키텍처가 잘 동작하면서 워크로드마다 가장 잘 맞는 곳을 찾는 환경이 이후의 목표였습니다.
원문의 주요 수치
| 항목 | 값 |
|---|---|
| 전체 서비스 | 5,000개 이상 |
| 모노레포 CPU 할당 비중 | Go 60%, Java 20%, 웹 10%, 나머지는 마이크로 저장소 |
| Arm으로 옮긴 서비스 | stateless Go 서비스 2,800개 이상 |
| Arm으로 바꾼 OCI 용량 | 거의 20%(Ampere A1, A2) |
| 도입 축 | 등급별, 비프로덕션 우선, 존별 |
| 이전 방식 | 목표 상태 기반 Cadence reconciliation 루프, 작은 배치 |