목차
배포 전에 DNS 정책 충돌을 잡는 Cloudflare Topaz (2024-11)
원문 정보
- 원문: How we prevent conflicts in authoritative DNS configuration using formal verification
- 매체 · 게시일: The Cloudflare Blog · 2024-11-08
- 저자: James Larisch, Suleman Ahmad, Marwan Fayed
- 원문 내용을 바탕으로 재구성한 요약입니다.
여러 팀의 요구가 만나는 DNS 응답
Cloudflare에서는 서로 다른 팀의 시스템이 같은 DNS 질의에 돌려줄 IP 주소를 두고 상충하는 요구를 낼 수 있습니다. 한 팀이 작성한 프로그램 때문에 다른 팀의 프로그램이 아예 실행되지 않을 수도 있습니다. 주소 지정 시스템 Topaz는 이런 문제를 배포 전에 찾아내려고 형식 검증을 도입했습니다.
주소를 선택할 여지가 넓어서 생기는 문제입니다. 고객이 example.com의 트래픽을 Cloudflare로 프록시하면 Cloudflare 네임서버가 그 도메인의 권한 서버가 됩니다. 클라이언트의 재귀 DNS 리졸버, 예를 들어 1.1.1.1이 이 서버에 질의해 Cloudflare IP 주소를 받아 전달하면, 클라이언트는 그 주소로 Cloudflare 네트워크에 접속합니다. 모든 데이터센터가 모든 주소를 광고하는 글로벌 애니캐스트 네트워크입니다.
정적 IP를 설정한 도메인은 간단합니다. 지정한 주소를 돌려주면 끝입니다. 나머지 도메인에는 Cloudflare가 소유하고 운영하는 거의 어느 IP 주소든 응답에 담을 수 있습니다. 서로 다른 도메인에 같은 주소를 주기도 하고, 같은 도메인의 질의에 서로 다른 주소를 주기도 합니다. 복원력을 높이고, 도메인 이름과 IP 주소를 분리해 유연하게 운영하기 위한 선택입니다.
이 여유를 활용해 공격받는 도메인의 IP를 바꾸거나, 새 기능을 시험할 트래픽 일부를 특정 IP로 보내거나, 도메인 이름을 새 IP 공간으로 옮깁니다. Topaz는 엔지니어가 이런 목표를 프로그램으로 표현하게 하고, 프로그램을 바꿀 때마다 전체 목록을 검사합니다. 연구 프로젝트로 시작한 검증기는 이미 프로덕션에 배포됐으며, 기술 세부 사항은 ACM SIGCOMM 2024 논문에 실렸습니다. 오늘 보낸 DNS 질의도 형식 검증을 거친 Topaz 프로그램을 실행했을 가능성이 높습니다.
먼저 일치한 orange에 가려진 orange_and_true
Topaz 프로그램은 버전 관리되는 하나의 YAML 파일에 모여 있습니다. 질의를 받으면 목록 순서대로 실행하며, 처음 일치한 프로그램이 응답을 결정합니다. 프로그램을 어디에 넣느냐가 동작을 바꾸는 이유입니다.
각 프로그램의 match 함수는 데이터센터와 계정 정보 같은 질의 메타데이터를 받아 실행 여부를 불리언으로 반환합니다. true가 나오면 해당 프로그램의 response 함수를 실행해 IPv4 주소 목록, IPv6 주소 목록, TTL로 이루어진 3-튜플을 얻습니다. 구체적인 주소와 이름은 config에 두고 두 함수에서 참조합니다. 동작을 읽을 때 세부 설정값까지 일일이 따라가지 않아도 되도록 분리한 것입니다.
config, match, response의 본문은 YAML 문자열에 담긴 topaz-lang 표현식입니다. topaz-lang은 Scheme을 단순화한 전용 언어로, 동적 타입이며 튜링 완전하지 않습니다. 각 표현식은 정확히 하나의 값으로 평가되지만 함수가 오류를 던질 수는 있습니다. 숫자·리스트·맵 외에 IPv4/IPv6 주소와 TTL도 별도 타입으로 제공합니다. 운영자가 이 언어 안에서 함수를 정의할 수는 없고, 새 DSL 함수는 호스트 언어인 Go로 작성해야 합니다.
이제 orange라는 프로그램을 생각해 보겠습니다. 도메인 메타데이터의 tag1이 "orange"이면 설정한 IPv4·IPv6 주소와 TTL 300초를 반환하는 예제입니다. 다른 팀은 여기에 조건을 더한 orange_and_true를 추가하려 합니다. tag1이 "orange"이면서 tag2가 true인 도메인에 다른 주소를 주려는 프로그램입니다.
조건 자체에는 모순이 없습니다. 하지만 파일에서 orange 뒤에 넣으면 orange_and_true는 한 번도 실행되지 않습니다. tag2가 무엇이든 tag1이 "orange"인 질의는 앞의 orange에서 처리가 끝나기 때문입니다. 새 프로그램은 작성하자마자 앞선 프로그램에 완전히 가려진, ‘죽은’ 프로그램이 됩니다.
겹치는 질의를 찾아내는 검증기
검증기는 이 상황을 도달 가능성 검사로 찾아냅니다. 앞선 프로그램 어디에도 일치하지 않으면서 해당 프로그램의 match가 true가 되는 질의가 하나라도 있는지 확인하는 검사입니다. orange 뒤의 orange_and_true에는 그런 질의가 없으므로 오류를 냅니다. 이 예제에서는 순서를 바꿔 orange_and_true를 먼저 실행하면 도달 가능성 문제가 해결됩니다.
순서를 따지기 전, 프로그램의 조건 자체가 성립하는지도 확인합니다. 이것이 만족 가능성 검사입니다. match가 (and true false)라면 어떤 DNS 질의를 넣어도 참이 되지 않습니다. 앞에 다른 프로그램이 없어도 실행될 수 없는 조건이므로 검증에서 걸립니다.
두 프로그램의 순서를 바로잡았더라도, 둘 다 exclusive: true로 표시하면 또 다른 오류가 납니다. exclusive는 다른 exclusive 프로그램과 같은 질의에 일치해서는 안 된다는 선언입니다. 검증기는 이렇게 표시된 프로그램들 사이에서만 충돌을 검사합니다. orange_and_true와 orange는 tag1이 "orange"이고 tag2가 true인 질의에 모두 일치하므로 이 선언을 지킬 수 없습니다.
오류 메시지는 충돌한다는 사실만 알리지 않습니다. 두 프로그램에 모두 일치하는 질의를 증거로 보여 줍니다. 각 팀은 이 예시를 보고 배포 전에 조건을 수정하거나 겹침을 허용할지 결정해야 합니다. 가장 간단한 해결책은 한쪽의 exclusive 표시를 지우는 것입니다. 그러면 겹치는 질의는 프로그램 순서에 따라 처리됩니다. 모든 정책을 서로 겹치지 않게 만들 수는 없으므로, 그런 경우에도 우선순위만큼은 명시적으로 남기는 방식입니다. 실제 운영에서는 exclusive 프로그램을 모두 파일 맨 위에 두어 일반 프로그램과의 관계를 파악하기 쉽게 했습니다.
검증을 통과하는 변경에도 설명은 필요합니다. 초기 단계인 시맨틱 diff는 이전 파일과 새 파일을 비교해, 전에는 프로그램 X가 처리했지만 이제는 Y가 처리하는 질의를 찾아 보여 줍니다. 예를 들어 orange_and_true에서 tag2 조건을 부정하도록 바꾸면, 이제 tag1이 "orange"이고 tag2가 false인 질의에 일치한다는 예시를 출력합니다.
이 보고서가 영향받는 모든 질의를 나열하는 것은 아닙니다. 운영자가 변경 의도와 실제 동작을 배포 전에 대조할 수 있도록 사례를 제공하는 기능입니다. Cloudflare는 시맨틱 diff의 기능을 더 확장할 계획입니다.
도메인 10%를 고르는 purple 예제
태그만 비교하는 프로그램보다 복잡한 실험도 가능합니다. purple 예제의 목표는 수정한 CDN HTTP 서버를 일부 데이터센터의 일부 도메인에서 시험하는 것입니다. "purple" 태그가 붙은 데이터센터에서 질의한 도메인 중 10%를 대상으로 삼습니다.
도메인이 실험에 들어갈지는 도메인 이름의 해시로 정합니다. 이 해시를 난수 생성기의 시드로 넣고, 생성한 0~99 사이의 수가 설정값 10보다 작은지 검사합니다. 시드를 질의 ID로 잡으면 같은 도메인의 질의도 다르게 동작합니다. 도메인 이름을 사용해야 도메인 단위로 실험 대상을 정할 수 있습니다.
주소 선택에도 도메인의 해시를 씁니다. select_from은 같은 프리픽스와 해시를 받으면 같은 주소를 반환하므로, 해당 도메인의 질의는 늘 같은 IP를 받습니다. 서로 다른 도메인에는 설정한 프리픽스 안에서 다른 IP를 줄 수 있습니다. 이렇게 하면 한 도메인의 질의들을 서로 연관 지어 보기 쉬워집니다. 예제는 IPv4·IPv6 주소를 각각 고르고 TTL은 1초로 응답합니다.
데이터센터 목록은 질의 처리 전에 준비합니다. 프로그램 파일이 바뀌면 컨트롤 플레인은 먼저 구문 오류를 검사하고, 설정의 모든 바인딩을 평가해 결과를 저장합니다. 설정을 ‘finalize’하는 단계입니다. purple의 fetch_datacenters는 이때 내부 HTTP API에서 "purple" 태그가 붙은 데이터센터 목록을 가져옵니다. 권한 네임서버가 질의를 처리하면서 외부 데이터를 조회하지 않아도 되도록 한 것입니다.
컨트롤 플레인은 설정값이 확정된 프로그램을 형식 검증한 뒤, 에지 키-값 저장소 QuickSilver에 목록을 기록합니다. 각 서버의 Topaz 서비스는 변경을 감지해 자신의 프로그램 목록을 갱신합니다.
실제 질의가 도착하면 네임서버가 태그 같은 메타데이터를 붙여 같은 서버의 Topaz 서비스에 프로세스 간 통신인 IPC로 전달합니다. Topaz는 topaz-lang 인터프리터로 목록의 match 함수를 차례로 실행합니다. 처음 true를 반환한 프로그램의 response를 실행하면 Topaz의 주소 선택은 끝입니다. 네임서버는 결과 주소와 TTL을 DNS 응답 형식으로 만들어 리졸버에 돌려줍니다.
DNS 질의를 미지수로 바꾸는 Rosette
검증기는 가능한 DNS 질의를 하나씩 실행하지 않습니다. SMT 솔버를 사용해 모든 가능한 질의를 다루는 증명을 얻습니다. Cloudflare는 Racket으로 topaz-lang 인터프리터를 다시 작성하고, Racket 기반의 솔버 지원 DSL인 Rosette로 만족 가능성·도달 가능성·충돌 속성을 표현했습니다.
Rosette는 이 속성들을 1차 논리식으로 바꿉니다. 학교에서 풀던 대수 방정식처럼 미지수가 있는 식입니다. 여기서는 query_domain_tag1 같은 DNS 질의 필드가 미지수에 해당합니다. 예를 들어 orange_and_true 뒤의 orange에 도달할 수 있는지 검사하는 식은 ((NOT orange_and_true.match) AND orange.match)입니다. 앞 프로그램에는 일치하지 않으면서 뒤 프로그램에는 일치하는 질의를 찾으라는 뜻입니다.
Z3 같은 SMT 솔버는 이 식을 참으로 만드는 질의 필드 값을 찾습니다. Rosette는 찾은 값을 Racket 자료구조로 바꿔 예시 DNS 질의로 돌려줍니다. 이 경우에는 orange까지 도달하는 질의가 존재한다는 증거입니다. 엔지니어가 익숙한 언어로 인터프리터를 작성하고 검사할 속성을 표현하면, 논리식 변환과 해 탐색은 Rosette와 솔버가 담당합니다.
검증 가능한 연산으로 제한한 topaz-lang
가장 큰 비용은 유지보수입니다. 실제 질의를 처리하는 Go 인터프리터와 검증에 쓰는 Racket 인터프리터의 동작을 계속 일치시켜야 합니다. 둘이 어긋나면 검증기가 버그를 정확히 찾지 못합니다.
허용하는 연산에도 제약이 있습니다. Rosette는 정수와 비트벡터를 다루는 함수만 검증할 수 있으므로, 검증할 함수의 연산은 그 형태로 변환할 수 있어야 합니다. 특히 문자열이 어렵습니다. Topaz는 질의된 도메인 이름의 부분 문자열을 조작하거나 다루는 프로그램을 지원하지 않습니다. 닫힌 집합의 문자열은 작은 정수 집합으로 표현할 수 있어, 두 도메인 이름이 같은지 비교하는 단순한 연산은 지원합니다.
이 제약이 모든 프로그램 코드에 적용되는 것은 아닙니다. 검증기는 match 함수만 살피므로, 검증과 호환되어야 하는 대상도 match에서 쓰는 함수로 한정됩니다. 프로그램의 구성 덕분에 검증할 범위를 제한할 수 있었던 것입니다. 난수 모델링처럼 모델의 정확성을 확보하면서 부딪힌 다른 어려움은 논문에서 다룹니다.
기존 프로그램 7개가 검증 속성을 모두 만족하는지 확인하는 데는 약 6초가 걸립니다. 검증은 프로그램이 바뀔 때만, 배포 전 빌드 시점에 중앙에서 실행합니다. Cloudflare가 이 시간을 허용할 만하다고 본 이유입니다. 프로그램 50개를 대상으로 한 마이크로벤치마크에서는 약 300초가 걸렸습니다. 이 시간도 허용 가능한 수준으로 보지만, 더 줄이기 위한 검증기 최적화를 검토하고 있습니다.
검증 범위와 실행 수치
| 항목 | 값 |
|---|---|
| 검증 속성 | 만족 가능성, 도달 가능성, 충돌 (exclusive 표시 프로그램 간) |
| 기존 프로그램 7개 검증 시간 | 약 6초 |
| 프로그램 50개 검증 시간 (마이크로벤치마크) | 약 300초 |
| purple 예제 설정 | 비율 10, TTL 1초, 데이터센터 태그 “purple” |
| orange 예제 설정 | TTL 300초 |
| 검증 실행 시점 | 프로그램 변경 시 중앙에서 배포 전 |
| 구현 | Racket + Rosette, SMT 솔버(Z3 등) |