목차
서버마다 다른 코어 성능을 CPU 할당에 반영한 Odin의 NCU (2026-10)
원문 정보
- 원문: Ensuring Similar Computational Resources to Stateful Workloads Running on a Diverse Server Fleet
- 매체 · 게시일: Uber Engineering Blog · 2026-10-13
- 저자: Kristoffer Andersen(Senior Software Engineer)
- 원문 내용을 바탕으로 재구성한 요약입니다.
리더가 느린 서버로 옮겨 가는 순간
우버가 소개한 한 클러스터에서는 워크로드 3개가 리더와 팔로워로 동작하며, 리더의 CPU 사용량이 팔로워의 10배를 넘었습니다. 자원은 리더 기준으로 잡아야 합니다. 어느 팔로워든 리더가 될 수 있으므로 모든 워크로드에 그 부하를 감당할 만큼 CPU를 배정해야 합니다.
여기에 서버 성능 차이가 끼어듭니다. 빠른 서버에 있는 리더는 CPU 사용률이 낮아 보이지만, 느린 서버로 옮겨 가면 사용률이 크게 뜁니다. 빠른 서버에서 관찰한 사용량으로 자원을 잡았다가 느린 서버에서는 CPU가 모자랄 수 있는 것입니다.
우버의 스테이트풀 오케스트레이션 플랫폼 Odin에서는 이 차이를 무시하기 어렵습니다. 온프레미스와 퍼블릭 클라우드에 걸쳐 약 500만 코어를 운영하는데, 오래된 서버와 새 서버에 ARM과 x86까지 섞여 있습니다. 가장 빠른 새 x86 코어와 가장 느린 옛 코어의 단일 코어 성능은 거의 2배 차이입니다. 워크로드의 CPU 사용률에는 부하뿐 아니라 배치된 호스트의 성능도 드러납니다.
느린 서버에 맞춰 넉넉히 배정하면 빠른 서버에는 자원이 남습니다. 같은 데이터센터에서 같은 워크로드를 실행한 x86 서버 두 종류를 비교했을 때, 옛 세대의 CPU 사용률은 새 세대보다 약 23% 높았습니다. 새 서버에서는 CPU 할당을 약 18% 줄여도 같은 사용률을 유지할 수 있다는 뜻입니다. 용량을 가장 뜨거운 워크로드, 대개 가장 느린 하드웨어에 맞춰 잡는 환경에서는 빠른 서버의 할당을 줄일 수 있다면, 수백만 코어를 운영하는 플릿에서 상당한 절감 여지가 됩니다.
데이터가 있는 서버로 향하는 요청
서버 성능이 다르면 부하가 낮은 쪽으로 요청을 더 보내는 방법이 흔히 쓰입니다. 성능 계수를 고정 가중치로 삼거나, 지연과 CPU 사용률을 보면서 트래픽을 조절하는 로드 밸런싱입니다. 어느 인스턴스든 요청을 처리할 수 있는 스테이트리스 워크로드에는 잘 맞습니다. 스테이트풀 요청은 목적지가 정해져 있습니다. 데이터를 가진 서버로 가야 합니다.
우버의 스테이트리스 군집에는 전역 트래픽 라우팅 계층이 있지만, 스테이트풀 군집에는 그처럼 CPU 부하를 고르게 나눌 장치가 없습니다. 내부 고객에게 빠른 서버를 직접 고르게 하는 것도 우버가 원하는 운영 방식은 아닙니다. 다양한 서버로 자체 클라우드를 운영하면서 자원 활용과 안정성을 위해 데이터센터를 비롯한 여러 위치에 워크로드를 분산하므로, 어느 서버에 배치하든 필요한 만큼의 자원을 제공하는 일을 플랫폼이 맡아야 합니다.
Odin에는 이미 수년간 사용해 온 수직 CPU 스케일링이 있었습니다. 전용 자원은 CPU set으로 정수 개의 코어를 보장합니다. 공유 자원은 소수 단위로 할당하며, 모든 워크로드가 접근할 수 있는 호스트의 공유 풀을 사용해 어느 정도의 오버 할당을 허용합니다. 자원 경합이 생기면 CPU shares에 따라 나눕니다. 이번 변경은 앞선 글에서 소개한 이 CPU 모델에 서버 성능 차이를 반영한 작업입니다.
코어 수 대신 연산 성능으로 계산하는 NCU
바꿔야 할 곳은 클러스터의 CPU 목표를 계산하는 기준이었습니다. Odin에서 클러스터는 데이터 샤드처럼 함께 묶인 워크로드 집합입니다. 각 노드의 사용량으로 할당 목표를 정하고, 리더-팔로워 구성에서는 노드 중 가장 높은 사용량을 씁니다. 그런데 서로 다른 서버의 원시 CPU 사용량을 그대로 비교하면 사과와 오렌지를 비교하는 일이 됩니다. 한 서버의 2코어가 다른 서버의 3코어와 같은 연산 능력을 낼 수 있기 때문입니다.
Odin은 이 계산에 정규화 컴퓨트 단위인 NCU를 도입했습니다. CPU 사용량에 호스트의 성능 계수를 곱해, 코어 개수로 기록된 사용량을 연산 성능 기준으로 바꿉니다. 옛 서버 유형의 계수가 기준값 100이고 현재 가장 빠른 서버는 190 안팎입니다. 계수는 서버 도입을 위한 검증 과정에서 구한 뒤 프로덕션의 CPU 사용 데이터로 갱신합니다.
클러스터의 할당 목표도 NCU로 계산합니다. 이 목표가 나타내는 것은 클러스터에 필요한 연산 성능입니다. 워크로드를 생성하거나 자원을 갱신할 때는 배치될 호스트의 성능 계수를 적용해 목표를 물리 코어 수로 다시 환산합니다. 필요한 성능은 같아도 빠른 호스트에서는 적은 코어를, 느린 호스트에서는 많은 코어를 받게 됩니다.
그 결과 같은 클러스터 안에서도 워크로드별 코어 할당량이 달라집니다. 대신 CPU 사용률이 서로 가까워집니다. 빠른 하드웨어에서 낮은 사용률로 돌던 워크로드는 할당을 줄인 뒤 더 뜨겁게 돌아갑니다.
프로덕션에서 다시 추정한 Kafka와 Cassandra의 성능 계수
우버는 이 방식을 Odin의 자동 스케일링 대상 워크로드 전체에 단계적으로 적용해 왔습니다. 약 140만 CPU 코어에 해당하는 규모입니다. 적용 초기에 드러난 문제는 성능 계수였습니다. 합성 벤치마크에서 구한 값만으로는 충분히 정확하지 않았고, 프로덕션에서 실제로 보이는 성능에 맞춰 고쳐야 했습니다.
서버 유형만 구분해서도 부족했습니다. 같은 서버라도 어떤 기술을 실행하느냐에 따라 성능 차이가 달랐습니다. Cassandra와 Kafka에서 구한 서버 유형별 계수도 상당히 달랐습니다. 우버는 서버 유형별 CPU 사용량을 계속 관찰하면서 기술별로 성능 계수를 추정하는 시스템을 만들었고, 이 계산을 매일 실행합니다.
Kafka의 계수에서는 최신 서버끼리의 차이도 드러납니다. 클라우드 최신 세대 ARM의 계수는 127, 최신 세대 x86은 196이었습니다. ARM을 기준으로 한 x86의 성능 비율은 1.54입니다. 새 서버라는 이유만으로 같은 코어 수를 배정할 수는 없었습니다.
약 8% 줄어든 Kafka의 할당 코어
적용 후 Kafka 워크로드의 평균 CPU 할당은 서버 유형에 따라 달라졌습니다. 가장 빠른 하드웨어에서는 워크로드당 약 48코어를 받았고, 느린 하드웨어에서는 70코어 넘게 받았습니다. 원문에 실린 서버 유형별 평균 할당 그래프에서 선들이 전반적으로 내려가는 추세는 부하 변화의 영향입니다. 그 하향 추세 자체를 새 할당 방식의 효과로 보지는 않았습니다.
코어 수가 달라지자 사용률은 가까워졌습니다. Kafka 서버 유형 5종을 비교하면, 적용 전 CPU 사용률은 약 8퍼센트포인트 벌어져 있었고 가장 뜨거운 쪽이 가장 차가운 쪽보다 50% 높았습니다. 적용 후 사용률 차이는 3퍼센트포인트로 좁혀졌습니다.
Kafka 전체의 할당 코어는 약 8% 줄었습니다. 절감은 빠른 서버에 집중됐습니다. 코어가 더 비싼 서버에서 할당을 줄였으므로, 비용 절감 효과는 코어 수 감소율보다 컸습니다.
안정성에서도 변화가 있었습니다. 리더-팔로워 방식의 한 워크로드는 가장 빠른 하드웨어에 배치되지 않을 때마다 성능이 떨어졌습니다. 이제 최소 할당을 NCU로 지정하고 예측값도 하드웨어 성능에 맞춰 보정합니다. 적용 뒤에는 같은 문제가 다시 보고되지 않았습니다.
사용률 그래프의 선이 완전히 겹친 것은 아닙니다. 워크로드마다 부하가 다르고 핫 샤드도 있으며, 기술마다 사용하는 서버 유형의 구성도 다릅니다. 우버는 이런 차이까지 없애 사용률을 완전히 일치시키기는 어렵다고 보고, 성능 계수를 계속 관찰하며 조정할 계획입니다.
원문의 주요 수치
| 항목 | 값 |
|---|---|
| Odin 전체 코어 수 | 약 500만 |
| 단일 코어 성능 편차 | 최대 약 2배 |
| 옛 세대 대비 새 세대 CPU 사용률 | 옛 세대가 약 23% 높음 |
| 새 세대의 동일 사용률 달성 할당 감소 | 약 18% |
| 리더 대 팔로워 CPU 사용량 | 10배 이상 |
| 정규화 기준 계수 | 옛 서버 유형 100, 최신 서버 약 190 |
| 롤아웃 대상 | 자동 스케일링 워크로드 약 140만 코어 |
| Kafka 사용률 편차 | 약 8퍼센트포인트에서 3퍼센트포인트로 |
| 가장 뜨거운 쪽의 사용률 격차 | 50% 높음에서 10% 높음으로 |
| Kafka 할당 코어 감소 | 약 8% |
| 계수 재추정 주기 | 매일, 기술 단위 |
| 서버 유형 (Kafka) | 성능 계수 | 성능 비율 (ARM 기준) |
|---|---|---|
| 클라우드 최신 세대 ARM | 127 | 1 |
| 온프레미스 20세대 | 135 | 1.06 |
| 온프레미스 21세대 | 151 | 1.19 |
| 클라우드 최신 세대 x86 | 196 | 1.54 |