본문으로 건너뛰기
Arm 서비스 하나를 위해 다시 준비한 우버의 빌드 기반
목차

Arm 서비스 하나를 위해 다시 준비한 우버의 빌드 기반 (2025-02)

원문 정보

  • 원문: Adopting Arm at Scale: Bootstrapping Infrastructure
  • 매체 · 게시일: Uber Engineering Blog · 2025-02-13
  • 저자: Andreas Lykke(Senior Software Engineer, stateless Cloud Platform), Jesper Borlum(Sr. Staff Engineer, Stateful Platform 팀 리드)
  • 원문 내용을 바탕으로 재구성한 요약입니다.

우버가 처음 세운 목표는 단순했습니다. 서비스 하나를 Arm용으로 빌드한 뒤, 기존 배포 플랫폼으로 Arm 호스트에 배포하는 일이었습니다. 막상 시작하자 호스트부터 컨테이너 이미지 빌드 파이프라인까지 모든 층이 x86에 묶여 있었고, 서비스 하나를 옮기려 해도 그 아래 기반부터 준비해야 했습니다.

특히 빌드 도구를 Arm에서 실행하는 일이 까다로웠습니다. 빌드 도구가 의존하는 플랫폼과 호스트 에이전트도 Arm용으로 만들어야 하는데, 그 구성 요소들을 만드는 도구가 바로 그 빌드 도구였습니다. 이 순환 의존을 풀어야 첫 서비스를 띄울 수 있었습니다.

클라우드 이전에 더한 Arm이라는 선택지

우버는 2023년 2월부터 온프레미스 데이터센터를 떠나 Oracle Cloud Infrastructure(OCI)와 Google Cloud Platform으로 이전하기 시작했습니다. 여기에 x86 중심의 플릿에 Arm 호스트를 도입하는 목표도 더했습니다. 비용을 낮추고 가격 대비 성능을 높이려는 선택이었으며, 예측하기 어려운 공급망 속에서 하드웨어와 용량 확보의 선택지를 넓히려는 목적도 있었습니다.

클라우드 사업자에게도 Arm을 들일 이유가 있었습니다. OCI가 도입한 Ampere 프로세서는 와트당 성능의 새 기준을 세웠고, 높은 에너지 효율은 데이터센터의 전력 비용 절감으로 이어집니다. 덜 눈에 띄는 이점은 공간입니다. 더 작은 면적에 컴퓨트 자원을 밀집시키고 랙 단위 성능을 높이면, 부동산과 인프라에 드는 비용도 줄어듭니다.

OCI의 전력과 공간 절감은 우버가 얻는 가격 대비 성능 개선으로 이어졌습니다. 효율적인 호스트는 환경 부담도 줄여 줍니다. 하드웨어 선택의 폭을 넓히는 일은 탄소 배출 제로 기업이 되겠다는 우버의 목표와도 맞닿아 있었습니다.

5,000개 서비스의 빌드가 묶인 Makisu

Arm 호스트를 확보한다고 서비스 이미지를 바로 만들 수 있는 것은 아니었습니다. 우버는 수년간 중앙 Buildkite 파이프라인에서 Makisu로 컨테이너 이미지를 빌드해 왔습니다. Makisu는 단일 아키텍처 빌드에 최적화된 빠른 빌더였지만, Arm용 크로스 컴파일을 지원하지 않았습니다. Arm 지원 스위치 하나를 켜서 해결할 상황은 아니었습니다.

빌더를 바꾸는 일도 만만치 않았습니다. 5,000개가 넘는 서비스의 빌드 과정이 Makisu에 묶여 있었고, 상당수는 Makisu의 실행 흐름에 맞춘 별도의 빌드 단계까지 갖고 있었습니다. 새 빌더를 고르는 데서 끝날 일이 아니었습니다.

우버는 Makisu를 계속 쓰기로 했습니다. 다른 빌더로 Makisu의 Arm 버전을 먼저 만들고, Arm에서 실행되는 Makisu가 나머지 서비스 이미지를 만들게 하는 계획입니다. 서비스마다 빌드 방식을 바꾸는 작업을 피하면서 기존 도구를 Arm으로 가져가려는 선택이었습니다.

이때 필요한 빌더로 Google Bazel을 골랐습니다. Bazel은 OCI 컨테이너 이미지 규칙을 사용해 자신이 실행되는 호스트와 다른 아키텍처의 이미지를 만들 수 있었습니다. 우버의 언어별 모노레포가 이미 Bazel을 사용한다는 점도 선택의 이유입니다. 새로운 도구를 처음부터 익히지 않고 기존 경험과 도구를 활용할 수 있었습니다.

Odin과 Buildkite 아래의 호스트 에이전트

빌드 기반을 준비하는 작업은 호스트 이미지에서 시작했습니다. 운영체제와 커널, 기초 인프라를 뒷받침하는 호스트 소프트웨어가 모두 Arm에서 동작해야 했습니다. 각 구성 요소를 다시 빌드하고 테스트와 검증을 거쳐 Arm 호환 호스트 이미지를 만들었습니다.

이제 Arm 호스트를 플릿에 편입할 수 있었습니다. 그 위에서 서비스 빌드를 준비할 차례였지만, Bazel로 Makisu의 Arm 버전을 만드는 것만으로는 부족했습니다. Makisu가 실행될 기반도 함께 옮겨야 했기 때문입니다.

Makisu는 우버의 주 CI 시스템인 Buildkite에서 실행되고, Buildkite는 stateful 플랫폼인 Odin 위에서 동작합니다. Odin은 모든 호스트에 배포되는 로깅·메트릭·네트워킹 등의 기초 에이전트에 의존합니다. 그런데 이 구성 요소들은 전부 Makisu로 빌드하고 있었습니다. Makisu를 Arm에서 돌리려면 그 아래 구성 요소를 먼저 만들어야 하고, 그 구성 요소를 만들려 하면 다시 Makisu가 필요했습니다.

Bazel은 이 순환 의존을 푸는 데 쓰였습니다. 호스트 에이전트부터 Makisu 빌드를 Bazel 빌드로 옮기고, 이어서 stateful 플랫폼 구성 요소와 Buildkite 스택을 준비한 뒤 마지막으로 Makisu 자체를 옮겼습니다. Bazel의 멀티 아키텍처 지원으로 아래층부터 하나씩 Arm용으로 만드는 순서였습니다.

Makisu 하나를 Arm으로 가져오려던 계획이 다른 구성 요소의 연쇄적인 부트스트래핑으로 이어진 것입니다. 이 과정을 마쳐야 Arm 호스트에서 Buildkite와 Makisu를 함께 실행하고, 기존 방식대로 서비스 이미지를 빌드할 수 있었습니다.

Arm과 x86에서 나란히 도는 Makisu

빌드 기반을 준비한 뒤에는 작업을 두 아키텍처에 나눴습니다. 새 분산 빌드 파이프라인은 Arm 호스트와 x86 호스트에 빌드를 보내고, 각 호스트에서 Makisu를 네이티브로 실행합니다. 마지막 단계에서 두 이미지를 멀티 아키텍처 컨테이너 매니페스트로 묶으면, 하나의 태그로 두 아키텍처를 지원하는 이미지가 완성됩니다.

모든 서비스의 이미지 빌드를 Bazel로 옮길 이유가 없어졌습니다. 각 아키텍처에서 직접 빌드하므로 크로스 컴파일이 불가능한 워크로드도 처리할 수 있었습니다. 크로스 컴파일 오버헤드가 없다는 점은 빌드 시간을 지연 SLA 안에 유지하는 데도 도움이 됐습니다.

대가는 분명했습니다. 이미지 하나를 두 번 빌드하니 빌드 비용도 두 배가 됐습니다. 원문 작성 시점에 우버는 주당 40만 건이 넘는 컨테이너 이미지 빌드를 수행하고 있었으므로, 이 추가 비용은 작은 부담이 아니었습니다. 그래도 늘어난 빌드 비용을 감안한 Arm 전환의 단위 경제성은 도입을 정당화할 만큼 유리했습니다.

이 방식은 배포에도 여유를 줬습니다. 같은 이미지 태그를 Arm과 x86 호스트 양쪽에 사용할 수 있으므로, 워크로드를 한꺼번에 옮기지 않고 Arm 도입 범위를 조금씩 늘릴 수 있었습니다. 이미지를 만드는 과정에서 비용을 더 쓰되, 기존 서비스의 빌드 흐름을 유지하고 점진적으로 전환할 기반을 확보한 것입니다.

x86 복귀 경로를 갖춘 첫 Arm 배포

이미지를 만들었으니 어디서 실행할지 제어해야 했습니다. 우버는 이미지 업그레이드든 하드웨어 변경이든 적용 범위를 조금씩 넓혀 갑니다. Arm도 같은 방식으로 도입하기 위해 stateless와 stateful 배포 플랫폼에 아키텍처별 배치 제약을 추가했습니다. 서비스가 어느 아키텍처에서 실행되는지 세밀하게 정할 수 있게 한 것입니다.

배치 제약에는 안전장치도 붙였습니다. 서비스에 단일 아키텍처 이미지만 배포되면, 플랫폼이 Arm 배치 제약을 자동으로 되돌리고 x86으로 폴백합니다. Arm 배치를 제어하는 기능과 x86으로 복귀하는 동작을 함께 준비했습니다.

마침내 첫 서비스들이 Arm 호스트에서 빌드되고, 스케줄링되고, 실행됐습니다. 엔지니어들에게는 기쁜 순간이었습니다. 처음 세운 작은 목표를 이룬 데 더해, Arm이 우버 인프라에서 x86과 공존할 수 있다는 증거를 얻었습니다.

첫 배포 뒤에 남은 5,000개 서비스

첫 성공 뒤에도 5,000개 서비스를 멀티 아키텍처 플랫폼에 맞추는 일은 남아 있었습니다. 빌드하고 배포할 수 있다는 사실만으로 각 워크로드의 준비까지 끝나는 것은 아니었습니다.

우버의 전체 도입 계획은 일곱 단계였습니다. 호스트 소프트웨어를 준비하고, 빌드 파이프라인을 확장하고, 배포 플랫폼에 배치 제약과 안전장치를 넣는 작업 외에도 SKU 검증이 있었습니다. 하드웨어의 신뢰성과 성능을 평가해 해당 SKU를 사용할 만한지 판단하는 단계입니다.

서비스 쪽에도 준비 과정이 있었습니다. 워크로드 준비 단계에서는 코드 저장소와 컨테이너 이미지를 Arm에 맞추고, 도입 준비 단계에서는 테스트와 모니터링 절차를 마련해 Arm에서의 워크로드 성능을 검증합니다. 실제 도입은 워크로드를 하나씩 옮기는 단계입니다. 이 일곱 단계를 모두 차례로 끝내기만 한 것은 아니며, 일부 작업은 병행했습니다.

이 글이 다룬 인프라 부트스트래핑은 Arm 도입 2부작의 첫 편입니다. 2편에서는 이 규모의 서비스를 옮기는 도입 과정과 전략을 다룹니다.

주요 수치와 도입 순서
항목값
클라우드 이전 시작2023년 2월(OCI, GCP)
Makisu에 묶인 서비스5,000개 이상
주당 컨테이너 이미지 빌드40만 건 이상(작성 시점)
멀티 아키텍처 빌드 비용두 배
부트스트랩 이전 순서호스트 에이전트, stateful 플랫폼 구성 요소, Buildkite 스택, Makisu
도입 단계호스트, 빌드, 플랫폼, SKU 검증, 워크로드, 도입 준비, 도입의 7단계
마지막 수정 일자