목차
연결을 끊지 않고 Rust 서비스의 코드를 바꾸는 ecdysis (2026-02)
원문 정보
- 원문: Shedding old code with ecdysis: graceful restarts for Rust services at Cloudflare
- 매체 · 게시일: The Cloudflare Blog · 2026-02-13
- 저자: Manuel Olguín Muñoz
- 원문 내용을 바탕으로 재구성한 요약입니다.
ecdysis는 파충류가 허물을 벗거나 곤충이 외피를 벗는 ‘탈피’를 뜻합니다. Cloudflare는 Rust 서비스가 오래된 코드를 벗는 동안에도 연결을 이어 가도록 만든 라이브러리에 이 이름을 붙였습니다.
재시작 틈에 끊기는 연결
Cloudflare의 Rust 서비스는 트래픽 라우팅, TLS 수명 주기 관리, 방화벽 규칙 적용을 맡습니다. 잠깐의 중단도 고객의 성능 저하와 사업상 피해로 이어질 수 있는 서비스입니다. 그렇다고 업데이트를 멈출 수는 없습니다. 보안 패치를 미룰 수 없고, 버그 수정과 새 기능도 배포해야 합니다.
기존 프로세스를 종료한 뒤 새 프로세스를 시작하면 리스닝 소켓이 닫힌 동안 새 연결이 ECONNREFUSED로 거부됩니다. 초당 수천 건의 요청을 받는 서비스라면 100ms의 공백만으로도 수백 개의 연결을 잃습니다. 이미 맺은 연결도 끊깁니다. 대용량 파일을 올리거나 동영상을 보던 클라이언트, WebSocket이나 gRPC 스트림을 사용하던 클라이언트에게는 서비스가 갑자기 사라지는 순간입니다.
새 프로세스를 먼저 띄워도 해결되지 않는 문제가 있습니다. SO_REUSEPORT를 쓰면 여러 프로세스가 같은 주소와 포트에 바인딩할 수 있지만, 커널은 프로세스마다 별도의 리스닝 소켓을 만들고 새 연결을 분산합니다. 첫 SYN이 도착하면 커널이 소켓 하나를 고르고, 핸드셰이크를 마친 연결은 해당 프로세스의 accept() 큐에서 기다립니다. 프로세스가 이 연결을 수락하기 전에 종료되면 커널이 연결도 종료합니다.
부모의 소켓을 이어받는 새 프로세스
ecdysis는 NGINX가 일찍부터 사용한 소켓 상속 방식을 따릅니다. 부모가 fork()로 자식을 만들면 자식은 곧바로 execve()를 호출해 새 버전의 코드를 실행합니다. 리스닝 소켓의 파일 디스크립터는 부모와 공유하는 named pipe로 전달받습니다.
소켓은 계속 열려 있습니다. 부모와 자식이 같은 커널 내부 자료를 공유하므로, 자식이 초기화하는 동안에도 부모는 새 연결을 받고 기존 연결을 처리합니다. 자식이 준비 완료를 알리고 연결 수락을 시작하면 부모는 자신의 리스닝 소켓 사본을 닫습니다. 이후에는 이미 받은 연결만 마저 처리하고 종료합니다.
부모와 자식이 잠시 함께 새 연결을 받을 수도 있습니다. 의도된 동작입니다. 그 사이 부모가 받은 연결도 부모가 끝까지 처리하며, 기존 연결을 자식에게 옮기지는 않습니다. 새 코드에 초기화 시간을 주면서 이전 코드까지 완전히 종료하려는 설계입니다.
새 코드의 초기화가 실패해도 서비스는 계속 동작합니다. 예를 들어 설정 오류로 자식이 종료되더라도 부모는 연결 수락을 멈춘 적이 없으므로 연결이 끊기지 않습니다. 문제를 고친 뒤 업그레이드를 다시 시도하면 됩니다. 연쇄 실패를 막기 위해 업그레이드는 한 번에 하나만 진행합니다.
Tokio에서 준비 완료를 알리는 ready()
TCP echo 서버 예제에서는 SIGHUP이 업그레이드·재시작을, SIGUSR1이 종료를 요청하는 신호입니다. build_listen_tcp로 만든 리스너는 자식에게 상속됩니다. 자식은 부모와 같은 초기화 흐름을 따르되, ecdysis가 관리하는 소켓을 새로 바인딩하지 않습니다.
초기화를 마친 자식이 ready()를 호출하면 부모에게 준비 완료가 전달됩니다. 부모가 새 연결 수락을 멈추고 기존 연결 처리를 마칠 수 있는 시점입니다. shutdown_fut.await는 업그레이드·재시작이 성공했거나 종료 신호를 받아 현재 프로세스를 종료해야 할 때까지 기다립니다.
Tokio용 스트림 래퍼는 상속받은 소켓을 별도의 연결 코드 없이 비동기 리스너로 사용할 수 있게 합니다. 동기 서비스라면 비동기 런타임 없이도 ecdysis를 사용할 수 있습니다.
서비스 관리자와의 연동도 지원합니다. systemd_notify 기능을 켜고 서비스 유닛에 Type=notify-reload를 설정하면 systemd가 프로세스 수명 주기 통지를 받아 업그레이드를 추적합니다. systemd_sockets 기능은 systemd가 활성화한 소켓을 관리하므로, 소켓 활성화와 연결을 유지하는 재시작을 함께 사용할 수 있습니다.
execve() 뒤에 남는 파일 디스크립터
교체 도중에는 두 세대의 프로세스가 같은 리스닝 소켓에 접근합니다. 이때 민감한 파일 디스크립터까지 의도치 않게 넘어가지 않도록 상속 범위를 제한해야 합니다.
ecdysis는 fork() 직후 execve()를 실행합니다. 자식은 부모의 메모리를 이어 쓰지 않고 새 주소 공간과 코드로 시작합니다. 명시적으로 전달하는 리스닝 소켓과 통신 파이프만 남기고, 다른 파일 디스크립터는 CLOEXEC 플래그로 닫아 민감한 핸들의 유출을 막습니다.
이 방식에는 실행 환경의 조건이 붙습니다. seccomp 필터를 쓰는 서비스도 fork()와 execve()는 허용해야 합니다. 두 시스템 호출을 차단하면 ecdysis의 재시작 방식도 사용할 수 없습니다. 소켓 상속과 프로세스 관리에 Unix 전용 시스템 호출을 쓰므로 Windows에서는 동작하지 않습니다.
5년의 운영을 거쳐 공개된 ecdysis
Cloudflare는 2021년부터 ecdysis를 운영에 사용했습니다. 적용 대상인 주요 Rust 인프라 서비스들은 120개 이상 국가의 330개 이상 데이터 센터에서 하루 수십억 건의 요청을 처리합니다. 보안 패치, 기능 출시, 설정 변경으로 업데이트도 잦습니다.
Cloudflare의 설명에 따르면 ecdysis는 재시작마다 단순 종료·시작 방식에서 잃었을 수십만 건의 요청을 보존합니다. 전 세계 네트워크로 범위를 넓히면 수백만 개의 연결을 지키는 효과입니다. 약 5년간 운영한 뒤인 2026년 1월, Cloudflare는 이 라이브러리를 오픈소스로 공개했습니다.
같은 방식을 Go 서비스에 쓰려면 ecdysis에 영감을 준 tableflip이 있습니다. Rust에서도 서비스가 넘겨야 할 상태와 실행 환경에 따라 선택이 달라집니다. Oxy를 위해 만든 shellflip은 systemd와 Tokio를 전제로 하며, 부모와 자식 사이에 임의의 애플리케이션 상태를 전달하는 데 초점을 둡니다. 복잡한 상태를 가진 서비스나 자체 소켓 생성조차 제한할 만큼 강한 샌드박싱을 적용하는 서비스에 적합하지만, 단순한 용도에는 추가 부담이 생깁니다.
ecdysis는 Argo Smart Routing & Orpheus 팀이 유지보수하고 있습니다. 저장소에는 TCP 리스너, Unix 소켓 리스너, systemd 연동을 보여 주는 동작 예제가 제공됩니다.
운영 규모와 예제 설정값
| 항목 | 값 |
|---|---|
| Cloudflare 운영 시작 | 2021년 |
| 공개 전 운영 기간 | 약 5년 |
| 배포 범위 | 120개 이상 국가의 330개 이상 데이터 센터 |
| 해당 서비스의 요청 규모 | 하루 수십억 건 |
| 단순 재시작의 손실 예시 | 초당 수천 건의 요청을 처리하는 서비스에서 100ms 공백이면 수백 개 연결 손실 |
| 재시작 효과에 관한 원문 설명 | 재시작마다 수십만 건의 요청 보존, 전 세계 네트워크에서 수백만 개 연결 보존 |
| TCP echo 예제의 업그레이드·재시작 신호 | SIGHUP |
| TCP echo 예제의 종료 신호 | SIGUSR1 |
| TCP echo 예제의 리스너 설정 | 0.0.0.0:8080, set_reuse_address(true), listen(128), StopOnShutdown::Yes |
| systemd 수명 주기 통지 | systemd_notify 기능 활성화 및 서비스 유닛의 Type=notify-reload 설정 |
| systemd 활성화 소켓 관리 | systemd_sockets 기능 활성화 |