목차
Zstandard와 Pingora로 넓히는 CDN 캐시 공간 (2026-09)
원문 정보
- 원문: How we could save petabytes of cache storage with Zstandard and Pingora
- 매체 · 게시일: The Cloudflare Blog · 2026-09-01
- 저자: Aashi Patel
- 원문 내용을 바탕으로 재구성한 요약입니다.
원본의 인코딩을 그대로 따르던 캐시
지난 1년 사이 RAM과 HDD 가격이 크게 뛰었습니다. CDN을 비롯한 대규모 분산 스토리지 제품을 여럿 운영하는 Cloudflare는 이미 배치한 하드웨어를 더 효율적으로 쓸 방법을 찾았습니다. 그중 하나가 캐시에 저장하는 표현을 바꾸는 일입니다.
Cloudflare는 원본 서버가 보낸 인코딩 그대로 자산을 저장합니다. 원본이 압축하지 않은 응답은 디스크에서도 그대로 공간을 차지하고, Tiered Cache를 거쳐 데이터 센터 사이를 오갈 때도 압축되지 않은 채 이동합니다. 이 바이트를 줄이면 서버마다 더 많은 객체를 보관할 수 있습니다. 유용한 콘텐츠가 불필요하게 큰 저장 공간을 차지하다 캐시에서 밀려날 가능성도 줄어듭니다.
그 가능성을 시험한 결과가 Cache Transcoding입니다. Aashi Patel이 Cloudflare의 1.1.1.1 인턴 프로그램에서 만든 이 프로토타입은 Pingora 안에서 대상 응답을 Zstandard(zstd)로 압축해 저장합니다. 초기 시험에서는 대상 자산의 디스크 크기가 평균 원래의 3분의 1로 줄었습니다. Cloudflare가 기대하는 이득은 페타바이트 단위의 실효 캐시 용량과 데이터 센터 간 전송량 절감입니다.
클라이언트 직전까지 압축을 유지하는 Tiered Cache
인코딩 비용은 캐시를 채울 때 한 번 치릅니다. 이후 자산을 디스크에 보관하거나 다른 캐시 티어로 옮길 때도 압축된 형태를 유지하고, 클라이언트에 응답하는 마지막 홉에서 압축을 풉니다. 자산을 재사용하는 동안 저장 공간과 대역폭 절감이 계속되는 방식입니다.
상위·하위 티어 모두 캐시 미스라면 상위 티어가 원본 서버에서 압축되지 않은 identity 바이트를 가져옵니다. Pingora 기반 프록시는 이를 한 번 인코딩해 zstd로 저장하고, 하위 티어에도 압축된 객체를 보냅니다. 하위 티어는 받은 형태 그대로 저장한 뒤, 요청에 응답할 본문을 원래 바이트로 디코딩합니다.
하위 티어는 미스지만 상위 티어에 객체가 있다면 원본 서버는 관여하지 않습니다. 상위 티어의 zstd 객체를 하위 티어로 옮겨 저장하고, 그곳에서 한 번 디코딩하면 됩니다. 전송 중에도 디스크에서도 압축을 유지합니다.
하위 티어에 객체가 이미 있다면 경로는 더 짧아집니다. 티어 사이의 네트워크 전송도 새 인코딩도 필요 없습니다. 디스크에서 zstd 바이트를 읽어 압축을 푼 뒤 전달합니다.
캐시 메타데이터에는 저장 표현이 압축됐다는 표지와 원래 콘텐츠 길이가 남습니다. 다른 티어에서 객체를 받은 캐시 계층은 이 표지를 확인해 이미 zstd로 저장된 객체를 다시 인코딩하지 않고 그대로 보관합니다.
매번 압축을 풀어야 하는 Zstandard의 비용
저장하는 표현을 바꿔도 콘텐츠는 같아야 합니다. Zstandard는 Facebook의 Yann Collet이 개발해 2016년 공개한 무손실 압축 알고리즘으로, 압축을 풀면 모든 바이트가 원본과 같습니다.
대량의 트래픽을 처리하려면 압축과 해제 속도도 따라와야 합니다. Cloudflare의 앞선 브라우저 압축 시험에서 zstd는 Brotli보다 42% 빠르게 압축하면서 파일 크기는 거의 같았고, gzip과 비슷한 속도로 파일을 11.3% 더 작게 만들었습니다. 이번 프로토타입은 zstd 레벨 3을 사용합니다. 캐시를 채우는 작업이 CPU 병목이 되지 않으면서 압축 이득 대부분을 얻기 위한 선택입니다.
인코딩이 바이트당 더 비쌉니다. 통제된 시험 코퍼스에서 인코딩 비용은 바이트당 4.31ns, 디코딩 비용은 1.56ns였습니다. 하지만 자산은 캐시에 들어오는 횟수보다 훨씬 자주 서비스됩니다. 한 번 인코딩했다고 CPU 비용까지 한 번으로 끝나지는 않습니다.
Cloudflare는 처음에 재사용이 많은 인기 콘텐츠만 압축하는 방안을 검토했지만, 기대한 효과를 얻지 못했습니다. 인기 콘텐츠도 서비스할 때마다 디코딩해야 하기 때문입니다. 대상을 가장 인기 있는 콘텐츠로 좁히면 저장 공간 절감은 줄어드는데 CPU 비용은 그만큼 줄지 않았습니다.
더 단순한 정책이 나았습니다. 대상 조건을 만족하는 4KiB 이상의 압축 가능한 텍스트를 모두 트랜스코딩했을 때, 측정된 저장 이득 거의 전부를 얻으면서 CPU 예산 안에 머물렀습니다. 시험한 트래픽과 재사용 가정을 적용한 모델에서 zstd 레벨 3의 추가 CPU 비용은 몇 퍼센트였습니다.
압축 여지가 남아 있는 4KiB 이상의 텍스트
가장 빠른 압축은 하지 않아도 되는 압축입니다. 이미지, 영상, 폰트는 보통 이미 압축되어 있어 다시 압축해도 CPU만 낭비합니다. 트래픽 표본에서 이 미디어가 차지한 비중은 요청의 21.4%, 바이트의 63.3%였습니다. 바이트 비중이 크다고 압축 대상으로 적합한 것은 아닙니다.
텍스트는 사정이 다릅니다. HTML, JSON, CSS, JavaScript처럼 압축 가능한 텍스트는 요청의 67.3%, 바이트의 22.3%였고, 그중 약 71%가 Content-Encoding 없이 압축되지 않은 채 도착했습니다. 이쪽에는 줄일 여지가 남아 있었습니다.
프로토타입은 아래 조건을 모두 만족하는 응답만 트랜스코딩합니다.
200 OK응답Content-Encoding없음- 압축 가능한 텍스트를 나타내는
Content-Type - 길이가 알려져 있고 4KiB 이상인
Content-Length
slice 하위 요청, 업스트림 압축이 활성화된 응답, range 요청, 미리 압축된 응답, 길이를 모르는 본문, 바이너리 콘텐츠는 그대로 둡니다.
4KiB라는 최소 크기도 비용을 줄이는 기준입니다. 이 임계값으로 아주 작은 요청을 대량으로 제외하면서도, 나머지 조건을 만족하는 바이트 가운데 놓치는 양은 약 1%에 그쳤습니다. 기준을 더 낮추면 객체마다 드는 오버헤드는 늘지만 저장 공간을 훨씬 더 아끼지는 못합니다.
압축하기 좋은 자산으로 치른 시험
검증에서는 요청이 실제로 어느 경로를 지났는지부터 확인했습니다. 통제된 테스트 영역에서 요청 로그, Prometheus 지표, Jaeger 트레이스를 요청별로 연결하고, 캐시 키를 바꿔 각 요청이 특정 경로를 따르게 했습니다. 캐시 미스와 히트, 단일 홉에서 캐시를 채우는 경우, Tiered Cache에서 채우는 경우 등을 시험하면서 인코딩과 디코딩이 일어난 위치를 트레이스로 확인했습니다.
성능 시험 중 하나에서는 캐시 서버 10대에 100만 건이 넘는 요청을 보냈습니다. 시험의 절반은 Tiered Cache를 끄고, 나머지 절반은 켰습니다. 로컬 캐시 동작과 티어 사이 전송을 따로 측정하기 위해서입니다. 사용한 자산은 약 195KiB와 272KiB였으며, 둘 다 약 2.8배로 압축됐습니다.
시험한 조건에서는 콘텐츠를 보존했고 CPU 예산도 지켰습니다. 다만 이 자산들은 의도적으로 압축이 잘 되는 코퍼스에서 골랐습니다. 설계를 검증하기에는 결과가 뚜렷했지만, 인터넷의 모든 텍스트 객체를 대표하지는 않습니다. 측정한 압축률을 전체 서버에 통용되는 상수로 쓰려면 더 넓은 코퍼스가 필요합니다.
더 넓은 콘텐츠로 이어질 Cache Transcoding 실험
레벨 3과 4KiB는 아키텍처를 보수적으로 측정하려고 고른 시작값입니다. 둘 다 조정 가능한 매개변수입니다. Cloudflare는 더 높은 zstd 레벨이 추가 CPU 비용을 정당화할 만큼 압축률을 높이는지 평가하고, 더 다양한 콘텐츠 유형과 객체 크기를 시험하며, 대상 선정 기준을 조정할 계획입니다.
향후에는 range 요청과 미리 압축된 원본 응답도 검토할 수 있습니다. 압축 객체를 이미 지원하는 하류 구성 요소에 디코딩 없이 넘기는 방법도 살펴볼 수 있는 범위입니다.
압축 시험 수치
| 항목 | 값 |
|---|---|
| 압축률 (시험 코퍼스) | 2.834배 |
| 인코딩 비용 | 바이트당 4.31ns (약 232MB/s), 채울 때 한 번 |
| 디코딩 비용 | 바이트당 1.56ns (약 641MB/s), 서비스할 때마다 |
| 초기 시험 디스크 크기 감소 | 평균 원래의 3분의 1 |
| zstd 대 Brotli (앞선 브라우저 압축 시험) | 42% 빠르고 크기는 거의 같음 |
| zstd 대 gzip | 속도 비슷, 파일 11.3% 작음 |
| 미디어 비중 (트래픽 표본) | 요청 21.4%, 바이트 63.3% |
| 압축 가능 텍스트 비중 | 요청 67.3%, 바이트 22.3% (그중 약 71%가 미압축) |
| 적용 조건 | 200 OK, Content-Encoding 없음, 텍스트, Content-Length 4KiB 이상 |
| 4KiB 임계값으로 제외된 바이트 | 적격 바이트의 약 1% |
| 성능 시험 | 캐시 서버 10대, 100만 건 이상, 자산 약 195KiB와 272KiB |