목차
Cloudflare Workers의 보안 경계가 된 샌드박스 배치 (2025-09)
원문 정보
- 원문: Safe in the sandbox: security hardening for Cloudflare Workers
- 매체 · 게시일: The Cloudflare Blog · 2025-09-25
- 저자: Erik Corry, Ketan Gupta
- 원문 내용을 바탕으로 재구성한 요약입니다.
공격자의 코드도 실행하는 Workers
Cloudflare Workers에서는 고객이 코드를 쓰면 Cloudflare가 실행에 필요한 나머지 일을 맡습니다. 보안도 여기에 포함됩니다. 그런데 고객의 코드를 실행한다는 약속은 공격자에게도 똑같이 열려 있습니다. 공격자는 피해자의 하드웨어에서 프로그래밍 언어의 기능을 온전히 활용하며 공격을 준비할 수 있습니다.
Workers의 기반인 V8은 이런 환경에 익숙한 런타임입니다. Chromium 계열 브라우저에서 적대적인 코드를 실행해 왔고, 퍼저와 sanitizer의 검증을 받으며 Oilpan/cppgc와 정적 분석으로 방어를 강화했습니다. Workers도 V8 isolate로 스크립트를 분리하고, Spectre 공격을 완화하는 추가 방어책을 사용합니다.
V8이 의도대로 동작한다면 isolate의 분리만으로도 충분해야 합니다. Cloudflare는 여기에 방어 계층을 더했습니다. V8 sandbox와 하드웨어의 메모리 보호 기능을 Workers에 맞게 적용하는 과정에서, 수천 개의 스크립트를 격리할 공간을 확보하는 일과 격리 경계를 지키는 일이 맞물렸습니다.
V8 sandbox 안에 갇힌 포인터
V8 sandbox가 막으려는 것은 메모리 손상 이후의 공격 확대입니다. 공격자가 V8 힙의 객체를 손상시키더라도, 그것을 이용해 프로세스의 다른 영역까지 침해하지 못하도록 가두는 소프트웨어 보안 경계입니다. Workers가 처음부터 사용한 layer 2 sandbox와는 별개의 기능입니다.
포인터를 바꾸면 어떤 일이 생기는지부터 보겠습니다. 16자짜리 텍스트 버퍼 바로 뒤에 일반 데이터를 가리키는 8바이트 포인터가 있다고 가정합니다. 프로그램의 취약점 때문에 24자 입력이 그대로 기록되면, 앞의 16자는 버퍼를 채우고 나머지 8자는 포인터를 덮어씁니다. 이제 프로그램은 정상적인 포인터를 사용한다고 믿으면서 공격자가 고른 민감한 데이터에 접근합니다. 작은 메모리 손상이 더 큰 접근 권한으로 이어지는 과정입니다.
V8은 객체 참조에 전체 주소를 저장하지 않는 방식으로 이런 공격의 확대를 제한합니다. 그 기반은 2020년부터 제공한 포인터 압축입니다. 원래는 메모리를 절약하려고 만든 기능으로, 64비트 주소 대신 기준 주소에서 얼마나 떨어져 있는지를 나타내는 32비트 오프셋을 저장합니다. 기준 주소를 4 GiB 경계에 맞추면, 오프셋을 어떤 값으로 바꾸더라도 복원한 주소는 그 기준에서 시작하는 4 GiB 영역을 벗어나지 못합니다.
이 영역이 포인터를 가두는 pointer cage입니다. V8 객체만 이 안에 두고 전체 주소를 담은 포인터를 없애는 등 엄격한 규칙을 적용합니다. 앞의 버퍼 오버플로처럼 참조를 손상시켜도, 공격자가 고른 프로세스의 다른 메모리로 나갈 수 없게 만드는 것입니다.
Workers의 샌드박스는 pointer cage 4 GiB에 버퍼와 다른 자료구조를 위한 4 GiB를 더한 8 GiB입니다. 객체 참조는 앞쪽 4 GiB에 갇히고, 버퍼에는 33비트 오프셋을 써서 샌드박스 전체에 접근하되 바깥으로는 나가지 못하게 합니다.
문제는 이 경계를 어디에 두느냐였습니다. 기존 V8의 sandbox 설정에서는 한 프로세스의 모든 isolate가 샌드박스 하나를 공유해야 했습니다. 모든 V8 힙을 합쳐 4 GiB 미만으로 제한하면 수천 개의 스크립트를 실행하는 Workers에는 너무 작았습니다. Cloudflare는 Igalia에 isolate group 개발을 의뢰했고, 각 group이 독립적인 샌드박스를 갖게 된 뒤 V8 sandbox를 도입했습니다. 한 group에 여러 isolate를 넣을 수 있지만, Workers는 현재 샌드박스마다 isolate 하나만 배치합니다.
8 GiB가 남아도 들어가지 못한 샌드박스
isolate마다 샌드박스를 마련하자 가상 주소 공간도 빠듯해졌습니다. 샌드박스 하나가 예약하는 영역은 8 GiB이고, 효율을 위해 시작 주소를 4 GiB 경계에 맞춰야 합니다. 실제 물리 메모리는 이보다 훨씬 적게 쓰지만, 보안 경계를 유지하려면 그만큼의 가상 공간이 필요합니다.
4단계 페이지 테이블을 쓰는 Linux 프로세스의 사용자 주소 공간은 128 TiB입니다. 커 보이는 수치입니다. 그러나 비용과 가격을 낮추고 넉넉한 무료 사용량을 제공하려고 한 머신에서 많은 isolate를 실행하는 Workers에는 배치를 고민해야 할 크기였습니다.
mmap에는 할당 영역의 정렬을 직접 지정하는 방법이 없습니다. 정렬 조건에 맞는 빈 주소를 알아서 요청하지 못한다면, 우선 12 GiB를 받아 그 안에서 4 GiB 경계에 맞는 8 GiB를 찾고 양 끝의 남는 공간을 운영체제에 반환해야 합니다.
이렇게 커널에 배치를 맡긴 채 오래 실행하면 샌드박스 사이에 4 GiB나 8 GiB의 빈틈이 생깁니다. 8 GiB면 샌드박스 하나가 들어갈 크기입니다. 그래도 최초 요청은 12 GiB이므로 그 빈틈을 활용하지 못합니다. 같은 주소 공간에는 malloc이 확보하는 페이지, ASLR로 위치가 정해지는 실행 파일과 라이브러리, 샌드박스 밖에서 V8이 할당한 메모리도 자리합니다.
최신 x64 CPU와 Linux의 5단계 페이지 테이블은 훨씬 넓은 주소 공간을 제공합니다. 이를 쓰려면 프로세스가 명시적으로 선택해야 하고, V8도 높은 주소를 처리하도록 수정해야 합니다. V8 수정은 어렵지 않지만 Cloudflare의 모든 장비가 필요한 하드웨어를 갖춘 상태는 아니었습니다.
Cloudflare는 기존 장비에서도 쓸 수 있는 방법을 택했습니다. V8이 큰 가상 메모리 영역을 먼저 확보한 뒤, mprotect 호출로 8 GiB 샌드박스들을 빈틈없이 배치하도록 수정했습니다.
접근 권한을 나눈 Memory Protection Keys
이 배치가 보안까지 강화한 이유는 Workers가 사용하는 Memory Protection Keys에 있습니다. 메모리 보호 키는 같은 프로세스 안에서도 스레드별로 접근할 수 있는 메모리 영역을 제한하는 하드웨어 기능입니다. 기존 메모리 보호가 주로 커널과 프로세스, 서로 다른 프로세스를 분리했다면, 보호 키는 한 프로세스 안의 접근 권한까지 나눕니다.
V8은 이미 JIT 컴파일러에 보호 키를 쓰고 있습니다. 컴파일러 스레드는 최적화한 코드를 코드 영역에 기록해야 하지만 실행할 필요는 없습니다. 실행 스레드에는 그 코드를 실행할 권한이 필요하고, 수정할 권한은 불필요합니다. 보호 키로 각 스레드에 필요한 권한만 부여합니다.
Cloudflare는 isolate의 V8 힙에도 이 기능을 적용했습니다. 현대 x64 CPU의 키는 최대 15개이며, V8의 다른 용도를 제외하면 약 12개를 쓸 수 있습니다. 각 isolate에 무작위로 키를 배정하면 다른 isolate의 데이터를 읽으려는 접근은 키가 다를 때 하드웨어 트랩을 일으킵니다. 공격자의 스크립트가 종료되고, Cloudflare는 조사와 대응을 위한 알림을 받습니다.
키 12개를 가정하면 차단 확률은 약 11/12, 즉 92%입니다. 키 배정에서 계산한 값입니다. 공격자가 우연히 같은 키를 가진 isolate에 접근하는 경우는 남습니다. 샌드박스의 위치까지 직접 정할 수 있게 되면서 이 우연을 없앨 방법이 생겼습니다.
서로의 가드 영역이 된 이웃 샌드박스
여기서 다루는 공격자는 샌드박스 내부 데이터를 임의로 손상시킬 수 있다고 가정합니다. 많은 V8 공격의 첫 단계에 해당하는 능력입니다. 임의의 기계어까지 실행할 수 있는 공격자는 이 위협 모델에 포함하지 않습니다. 기계어를 실행할 수 있다면 메모리 보호 키를 비활성화할 수 있기 때문입니다.
공격자가 자기 샌드박스 안의 데이터만 다룰 수 있다면 다른 데이터에 접근하려면 경계 밖으로 나가야 합니다. 객체 참조의 32비트 오프셋은 pointer cage에 갇혀 있지만, 배열에는 별도의 문제가 있습니다. 공격자는 배열에 기록된 길이와 요소에 접근할 인덱스를 바꿀 수 있습니다. 요소 크기가 8바이트인 배열에 최대 32비트 인덱스를 사용하면, 잘못된 접근이 샌드박스 밖 최대 32 GiB까지 닿을 수 있습니다.
일반적인 V8 sandbox는 주변에 32 GiB의 가드 영역을 둡니다. 가상 주소에 물리 메모리를 연결하지 않은 영역이므로 잘못된 접근이 그곳에 닿으면 탐지됩니다. 하지만 Workers에는 샌드박스마다 이 공간을 비워 둘 여유가 없었습니다.
Cloudflare는 빈 공간을 두는 대신 이웃 샌드박스의 보호 키를 이용했습니다. 밀집 배치한 샌드박스에 키를 엄격한 순환 순서로 배정해, 어느 샌드박스든 32 GiB 이내에는 같은 키를 가진 다른 샌드박스가 없도록 했습니다. 배열 접근이 경계를 넘어 이웃 메모리에 닿아도 키가 다르므로 트랩이 발생합니다. 샌드박스가 서로의 가드 영역을 대신하고, 큰 예약 영역의 시작과 끝에만 각각 32 GiB의 별도 가드 영역을 남기는 방식입니다.
무작위 배정에서 남았던 같은 키를 만날 가능성이 이 위협 모델에서는 사라집니다. 이것이 92%에서 100%로 높아졌다는 설명의 범위입니다. 샌드박스 내부 데이터 손상은 가능하지만 임의 기계어 실행은 불가능한 조건에서, 공격이 같은 보호 키의 다른 샌드박스까지 도달하지 못하도록 배치한 결과입니다.
Workers Runtime의 패치와 설정은 Cloudflare가 관리합니다. 고객은 이 개선을 받기 위해 서버 소프트웨어를 직접 업그레이드하거나 가장 안전하고 효율적인 설정을 찾아 적용하지 않아도 됩니다.
설계에 쓰인 수치와 적용 조건
| 항목 | 값 |
|---|---|
| 현대 x64 CPU의 보호 키 | 최대 15개이며, V8의 다른 용도를 제외하면 약 12개 사용 가능 |
| 무작위 키 배정의 차단 확률 | 키 12개를 가정하면 약 11/12, 즉 92% |
| V8 포인터 압축 제공 시점 | 2020년부터 선택 기능으로 제공 |
| 압축된 객체 참조 | 64비트 시스템에서 32비트 오프셋 사용 |
| pointer cage | 최대 4 GiB, 기준 주소는 4 GiB 경계에 정렬 |
| Workers의 sandbox | pointer cage 4 GiB에 버퍼·자료구조 공간 4 GiB를 더한 8 GiB |
| 버퍼 오프셋 | Workers는 33비트, 더 큰 sandbox를 사용하는 Chromium은 40비트 |
| Workers 버퍼 오프셋 저장·사용 | 64비트 필드의 상위 33비트에 저장하고 사용 전 31비트 오른쪽 이동 |
| 4단계 페이지 테이블의 주소 공간 | Linux 프로세스 사용자 공간 128 TiB, 별도 128 TiB는 커널용 |
| 정렬을 위한 임시 할당 | 12 GiB를 확보해 4 GiB 경계에 정렬된 8 GiB를 남기고 나머지 반환 |
| 기존 배치의 빈틈 예시 | 8 GiB와 4 GiB 빈틈 발생 가능, 12 GiB 요청 방식으로는 8 GiB 빈틈 활용 불가 |
| 확장 주소 공간 선택 | 47비트 영역 밖의 주소를 제안하는 mmap 호출로 선택, 지원 하드웨어와 5단계 페이지 테이블 필요 |
| 배열 접근의 최악 조건 | 요소 크기 8바이트와 최대 32비트 인덱스 조합으로 sandbox 밖 최대 32 GiB까지 도달 가능 |
| 가드 영역 대체 조건 | 32 GiB 이내의 다른 sandbox에 같은 보호 키를 배정하지 않음 |
| 밀집 배치 후 별도 가드 영역 | 큰 샌드박스 예약 영역의 시작과 끝에 각각 32 GiB |
| 100% 방어 주장의 범위 | sandbox 내부 데이터 손상은 가능하지만 임의 기계어 실행은 불가능한 위협 모델에서, 같은 키의 sandbox까지 도달하는 접근 차단 |