본문으로 건너뛰기
가까운 OCA에서 나가지 못한 Open Connect의 트래픽
목차

가까운 OCA에서 나가지 못한 Open Connect의 트래픽 (2025-07)

원문 정보

사용자 곁의 OCA와 놓친 전송 기회

Open Connect는 회원에게 얼마나 많은 바이트를 보냈는지와 함께 어디서 보냈는지를 따집니다. 영상이 재생됐어도, 클라이언트와 네트워크상 가장 가까운 사이트에서 받지 않았다면 캐시 미스입니다. 로컬에서 전송할 기회를 놓쳤다고 보는 것입니다.

Netflix가 자체 CDN인 Open Connect를 운영하는 목적은 회원의 시청 품질(QoE)을 지키는 데 있습니다. 전 세계 ISP와 협력해 인터넷 교환 지점(IX)이나 ISP 사이트에 Open Connect Appliance(OCA)를 두는 이유도 여기에 있습니다. 물리 링크의 지연에 라우터와 네트워크 스택의 영향까지 더해지면 재생 시작이 늦어지고 초기 화질이나 버퍼링에도 영향을 줍니다. 라이브 스트림과 광고처럼 지연에 민감한 콘텐츠일수록 가까운 곳에서 전송하는 효과가 큽니다.

이렇게 트래픽을 얼마나 잘 지역화했는지를 콘텐츠 전송 효율(Content Delivery Efficiency)로 봅니다. Netflix는 효율과 비용을 고려해 OCA를 직접 설계하고, 과거 시청 기록에서 추세를 예측해 장기적인 캐싱 효율을 높입니다. 하지만 사이트마다 저장 공간은 제한돼 있고 용량도 설계 단계에서 정해집니다. 로컬에서 보냈어야 할 바이트가 얼마나 다른 곳에서 나갔는지, 그 이유가 무엇인지를 알아야 배치와 설계의 효과를 평가할 수 있습니다.

OCA 상태와 무관하게 정하는 proximity rank

캐시 미스를 세려면 먼저 어느 사이트에서 받았어야 하는지 정해야 합니다. Steering Service는 재생 요청마다 네트워크 근접도만으로 사이트 순위를 매깁니다. 이 순위가 proximity rank입니다.

근접도의 근거는 ISP 파트너가 광고하는 IP 대역, 즉 BGP 경로입니다. 클라이언트 IP와 일치하는 접두어가 가장 길고 구체적인 사이트를 가장 선호합니다. 순위는 0부터 시작하므로 이 사이트의 proximity rank는 0입니다. 순위를 정할 때 OCA의 상태는 고려하지 않습니다. 가장 가까운 사이트의 OCA가 트래픽을 더 받지 못하는 상태여도 그곳에서 받지 않은 바이트는 미스로 남습니다.

파일마다 실제로 전송한 OCA와 그 사이트의 순위를 연결하면 계산할 수 있습니다. 순위 0인 사이트 안의 어느 OCA에서든 받았다면 미스가 없습니다. 순위 값이 0보다 큰 사이트에서 받은 바이트와 시청 시간은 모두 놓친 로컬 전송 기회로 집계합니다.

전통적인 CDN 프록시 캐시와는 관점이 다릅니다. Open Connect는 콘텐츠를 클라이언트 가까이에 미리 배치해 두고, 그 클라이언트가 가장 적합한 사이트에서 받았는지를 기준으로 삼습니다.

파일 부재와 자원 포화가 남긴 캐시 미스

같은 사이트를 이용하지 못했어도 이유에 따라 손볼 곳이 달라집니다. manifest 로그에는 OCA를 선택하지 않은 이유가 남고, 콘텐츠 미스는 C, 헬스 미스는 H로 표시합니다.

콘텐츠 미스는 로컬 사이트의 OCA에 파일이 없었던 경우입니다. 이 지표는 콘텐츠의 인기를 얼마나 정확히 예측했는지, 필요한 파일을 얼마나 빨리 미리 배치했는지 평가하는 데 쓰입니다. OCA 하드웨어 설계와 사이트별 저장 용량을 정하는 데도 단서가 됩니다. 콘텐츠의 우선순위를 정하는 방법은 앞선 글인 「Content Popularity for Open Connect」와 「Distributing Content to Open Connect」에서 다뤘습니다.

파일이 있어도 OCA가 더는 트래픽을 받지 못하면 헬스 미스가 생깁니다. 각 OCA는 CPU와 디스크 같은 병목 지표를 감시하는 제어 루프를 돌리며 추가 트래픽을 처리할 여력이 있는지 판단합니다. 로컬 OCA의 자원이 포화되면 클라이언트는 여유가 있는 다른 OCA로 향합니다.

이 경우에는 성능이 다른 하드웨어 사이에서 부하를 어떻게 나눌지, 인기 콘텐츠의 사본을 충분히 확보했는지 살펴봅니다. 사본 수는 다시 인기 예측과 연결됩니다. 하드웨어마다 처리 능력과 병목이 다르므로 어느 OCA에 콘텐츠를 배치할지도 개선 대상입니다.

원문은 ‘세 가지 논리 범주’를 언급하지만, 실제 설명과 로그 라벨에 등장하는 분류는 콘텐츠 미스(C)와 헬스 미스(H)입니다.

재생 경로와 실제 전송을 잇는 로그

이유까지 붙여 미스를 계산하려면 재생 경로를 고른 기록과 실제로 전송한 기록이 모두 있어야 합니다. 각각 Steering Service와 OCA에서 나옵니다.

모든 OCA는 재생 요청과 별개로 자신의 용량과 상태, 학습한 BGP 경로, 저장한 파일 목록을 Cache Control Service(CCS)에 주기적으로 보고합니다. 회원이 재생을 누르면 요청은 AWS의 Playback Apps 서비스에 도착합니다. 이 서비스가 해당 영상에 필요한 파일을 정하고 Steering Service에 클라이언트를 보낼 OCA를 요청합니다.

Steering Service는 CCS 데이터와 클라이언트의 지리 위치 등을 참고해 요청을 처리할 OCA를 찾습니다. 결과는 순서가 매겨진 URL 목록입니다. 클라이언트는 맨 앞의 OCA에 접속해 파일을 받기 시작합니다.

이때 Steering Service의 playback manifest 로그에는 요청별 proximity rank 목록뿐 아니라 알고리즘이 적용한 판단과 필터도 남습니다. OCA 서버 로그에는 실제로 전송한 파일과 바이트 수가 기록됩니다. 서버 로그를 모으면 클라이언트가 어느 OCA를 이용했고 얼마나 받았는지 알 수 있습니다.

재생 요청별로 이 기록을 연결하면 선호한 사이트와 실제 전송한 사이트를 비교하고, 둘이 달랐던 이유를 찾을 수 있습니다. 미스는 바이트와 시청 시간으로 계산하며 OCA, 영화, 파일, 인코딩 종류, 국가별로 집계합니다.

리전 간 복제를 줄인 Kafka 로그 통합

한 번의 재생에서 나온 로그라도 서로 다른 AWS 리전에 도착할 수 있습니다. 로그를 생성한 곳에서 지연이 가장 낮은 리전의 Kafka 클러스터로 보내기 때문입니다. Netflix가 Kafka를 선택한 기준은 처리량, 낮은 지연, 신뢰성입니다.

흩어진 로그를 스트리밍으로 다대다 조인하려면 모든 리전에 로그를 복제해야 합니다. 그러면 데이터가 중복되고 처리가 복잡해지며 리전 간 전송 비용도 반복해서 발생합니다. Open Connect는 리전 간 전송을 한 번만 거쳐 로그를 한 리전에 모으는 방식을 택했습니다.

모인 로그에는 변경이 드문 차원 테이블과 서비스의 데이터를 스트리밍 조인으로 붙여 OCA와 콘텐츠 메타데이터를 보강합니다. 통합과 보강을 앞에서 마친 뒤, 윈도 기반 스트리밍 조인으로 manifest 로그와 OCA 로그를 합칩니다. 마지막으로 실제 전송한 OCA가 proximity rank 0인 사이트에 속하는지 확인하고, 미스라면 기록된 이유에 따라 분류합니다.

이 데이터는 현재의 미스를 세는 데서 더 나아가 Steering Service의 판단을 다시 실행하는 데도 쓰입니다. 매개변수를 바꿔 오프라인에서 재생하면 실제 트래픽을 건드리지 않고 가상의 조건이 운영에 미칠 영향을 시험할 수 있습니다. 예를 들어 첫 번째 순위의 사이트가 모두 장애를 겪을 때 두 번째 순위의 사이트가 과부하에 빠질지 살펴보는 방식입니다.

그러려면 로그가 각 논리 단계의 상태와 결정, 이유를 빠짐없이 담아야 합니다. Steering Service의 구성요소마다 앞 단계의 데이터에 자신의 판단을 덧붙이는 모듈형 설계가 필요한 이유입니다. 이 기록 과정이 눈에 띄는 재생 지연을 더해서는 안 됩니다. 데이터 형식 역시 모니터링에 쓸 수 있도록 거의 실시간 집계를 지원해야 합니다.

배치와 예측을 되짚는 콘텐츠 셰딩 비율

Open Connect는 이 지표로 인프라를 운영하며, 가장 가까운 곳에서 전송하는 트래픽을 늘리려 합니다. 수백만 회원과 수만 대 서버를 가진 CDN에서는 최적의 위치에서 벗어난 재생을 빠르게 알아차리는 일이 운영의 일부입니다. 미스에 원인이 함께 남으면 그런 상황을 알림으로 포착할 수 있습니다.

콘텐츠 셰딩 비율은 덜 선호하는 위치에서 전송된 콘텐츠 셰딩 트래픽을 전체 스트리밍 트래픽으로 나눈 값입니다. Open Connect는 그래프에서 전체 트래픽과 이 비율을 함께 추적합니다. 콘텐츠 배치와 인기 예측 알고리즘이 트래픽과 회원의 QoE에 어떤 영향을 주는지 빠르게 확인하는 피드백입니다.

셰딩에는 여러 원인이 있습니다. 팀이 원하는 것은 원인을 드러내는 명확한 신호와, 알려진 문제에 대응하는 자동화된 복구입니다. 인기를 잘못 예측한 콘텐츠를 OCA에 빠르게 배치하는 방식이 그 예입니다. 사람이 직접 개입해야 했다면 시스템을 개선하고 알려진 실패 사례를 처리 범위에 포함하는 계기로 삼습니다.

캐시 미스를 측정하고 줄이는 방법은 계속 발전하고 있습니다. 특히 Live와 Ads는 기존 영상과 접근 패턴이 달라 이러한 변화가 이어지고 있습니다. 이 글에는 개선 폭을 보여 주는 실측 수치나 후속 글 예고는 없습니다.

캐시 미스의 분류와 집계 기준
항목값
로그 라벨H(헬스 미스), C(콘텐츠 미스)
proximity rank0부터 시작, 0은 미스 없음
집계 단위바이트와 시청 시간
집계 수준OCA, 영화, 파일, 인코딩 종류, 국가 등
콘텐츠 셰딩 비율셰딩된 트래픽 ÷ 전체 스트리밍 트래픽
로그 전송리전별 Kafka, 통합 시 리전 간 전송 1회
마지막 수정 일자