목차
공격 요청을 바꾸는 AI로 검증한 Cloudflare WAF (2026-09)
원문 정보
- 원문: We tested our own WAF with frontier AI models. Here’s what we found
- 매체 · 게시일: The Cloudflare Blog · 2026-09-29
- 저자: Vikram Grover, Daniele Molteni, Kuber Nandwani
- 원문 내용을 바탕으로 재구성한 요약입니다.
이미 막힌 요청에서 시작한 WAF 테스트
Cloudflare 고객들은 프런티어 AI 모델의 공격에도 WAF가 준비돼 있는지 거듭 물었습니다. LLM은 응답을 보고 공격 요청을 고쳐 보내는 데 능합니다. 인코딩을 바꾸거나 입력을 HTTP 요청의 다른 위치로 옮기고, 다음 취약점으로 탐색을 이어가는 속도가 사람보다 빠릅니다.
Cloudflare는 모델에 공격자 역할을 맡겼습니다. 소스 코드를 분석하는 대신 실행 중인 애플리케이션에 요청을 보내는 동적 테스트입니다. 모델은 애플리케이션 코드도 WAF 규칙도 모르는 상태에서, 이미 차단된 알려진 공격을 출발점으로 삼았습니다. 선택된 HTTP 응답 데이터를 보고 다음 변형을 제안하도록 했습니다.
실험 장소는 고객이 허가한 staging 환경이었습니다. 테스트용 User-Agent를 허용 목록에 등록해 자동화 트래픽 제어가 요청을 WAF 앞에서 막지 않도록 했습니다. 전체 45개 시나리오 중 44개가 XSS, SQLi, CMDi, SSRF, 경로 탐색 또는 LFI, Log4j를 다뤘고, 나머지 log injection 시나리오는 별도로 보고했습니다.
이때 WAF는 Attack Score 30 이하를 차단하고 Cloudflare Managed Ruleset 전체와 OWASP Core Ruleset Paranoia Level 3을 활성화한 상태였습니다. 결과가 말해 주는 것은 이 설정 전체의 차단 여부입니다. 개별 규칙이나 탐지 방식의 성능으로 읽어서는 안 됩니다.
SSRF 주소 끝의 점 하나
모델이 응답에 맞춰 공격을 바꾸는 모습은 SSRF 세션에서 드러났습니다. cloud metadata 서비스는 워크로드에 임시 자격 증명을 제공할 수 있습니다. 애플리케이션에 SSRF 취약점이 있으면 공격자는 애플리케이션이 자신을 대신해 그 정보를 가져오게 할 수 있습니다.
테스터가 처음 보낸 주소 169.254.169.254는 403 차단 페이지를 만났습니다. 같은 주소를 정수 2852039166으로 써도 막혔습니다. 이어 8진수 0251.0376.0251.0376으로 바꾸면서 입력을 쿼리 문자열에서 폼 본문으로 옮겼지만 결과는 같았습니다. 이후에도 호스트와 경로, 요청 형태를 바꾸는 시도가 이어졌습니다.
눈여겨볼 지점은 시도 17과 18입니다. 시도 17에서 정수로 표기한 호스트가 차단되자, 모델은 메서드와 입력 위치, 콘텐츠 유형, 경로 형태를 그대로 두고 호스트만 169.254.169.254.로 바꿨습니다. 이번에는 WAF 차단 페이지 대신 리디렉션이 돌아왔습니다. 이 세션의 다른 변형은 모두 차단됐습니다.
주소 끝의 점이 WAF의 목적지 해석을 바꾸는지 조사할 단서는 생겼습니다. 공격 성공의 증거는 없었습니다. 성공한 원본 서버 응답이나 응답 본문을 얻지 못했고, 애플리케이션이 metadata를 가져왔다는 사실도 확인하지 못했습니다. Cloudflare는 이 요청을 후속 검토와 원본 서버 측 검증을 위해 보존했습니다. 모델이 변형 전에 내놓은 설명 역시 검증해야 할 가설이었습니다.
요청 전송을 맡은 Python 코드
이 실험에서 모델은 직접 요청을 보내지 않았습니다. Cloudflare가 Python으로 만든 코드가 HTTP 재전송, 시나리오 실행, 상태 추적과 증거 수집을 담당했습니다. 기존 침투 테스트 도구를 감싼 형태도 아니었습니다.
각 시나리오에는 공격 범주와 입력 위치, 이미 차단된 시작 요청, 시도 한도를 정했습니다. 변형 한 차례마다 모델을 두 번 호출합니다. 제안 호출은 시작 요청과 맥락, 이전 결과의 짧은 이력을 받아 다음 변형을 냅니다. 코드가 요청을 만들어 보내면 검토 호출이 요청 맥락, 응답 상태, 일부 헤더와 본문을 평가하는 방식입니다. 어느 호출에도 규칙 표현식이나 ID, WAF Attack Score의 세부 정보, 어떤 보안 계층이 작동했는지는 알려 주지 않았습니다.
전송 전에는 코드가 대상 호스트를 허용 목록과 대조하고, 리디렉션을 비활성화하며, 시도를 기록하고 한도를 적용했습니다. 전송 후에는 응답을 남기고 모델의 검토를 참고해 미리 정의된 다음 단계 중 하나를 선택했습니다. 유용한 변형이 더 나오지 않거나 시도 한도에 닿으면 루프가 끝납니다.
응답 본문은 이후 프롬프트에 다시 들어갈 수 있어 신뢰하지 않는 입력으로 취급했습니다. 모델 호출에는 규칙을 배포하거나 차단 설정을 바꿀 권한도 없었습니다.
사람의 검토 뒤에 남은 49건의 단서
테스터가 기록한 변형 시도는 1,107회였습니다. 이 숫자 전체를 차단 여부의 분모로 삼을 수는 없습니다. 모델이 쓸 수 있는 HTTP 요청을 만들지 못한 경우도 있었고, 요청이 대상에 도달하기 전에 실패하거나 변형 과정에서 페이로드가 무해해진 경우도 있었습니다.
차단되지 않았다는 관측부터 다시 확인했습니다. 유효한 요청이 실제 전송됐는지, 차단되지 않았다는 판단이 명확한지, 공격의 악의성이 남아 있는지가 검토 대상이었습니다. WAF가 요청 시점에 처리할 수 있는 범위인지도 살폈습니다. DNS나 네트워크 경로에서만 성립하는 공격까지 WAF의 탐지 공백으로 셀 수는 없기 때문입니다. 안전하게 재현할 수 있고 기대 결과가 분명한 사례여야 수정 작업으로 이어질 수 있었습니다.
이 기준에 맞지 않는 관측을 제외하고 중복을 합친 뒤, 차단 요청 558건과 WAF 관련 발견 사항 49건을 합친 607건이 남았습니다. XSS, LFI, SQLi, Log4j는 거의 모든 공격이 차단됐습니다. 추가 조사 대상으로 남긴 49건 중 48건은 CMDi와 SSRF에 속했습니다. 사람이 검토하기 전까지 모델이 만든 것은 요청과 응답 기록이었고, 그 검토를 거쳐야 발견 사항으로 인정했습니다.
Managed Ruleset에 반영한 재현 결과
발견 사항마다 새 규칙을 만들지는 않았습니다. 요청을 다시 보내 보며 기존 Managed Rules의 탐지 범위가 좁은지, 같은 의미의 입력을 정규화 과정에서 다르게 읽는지, 다른 보안 제어가 처리할 문제인지를 판단했습니다.
관련 사례에서 나온 후보 규칙은 4개 묶음으로 정리했습니다. 각 발견 사항을 검증한 뒤, 후보를 실제 트래픽에 시험해 정상 요청에 미치는 영향과 오탐 위험을 살폈습니다. 오탐 위험이 높으면 후보를 수정하거나 기각했습니다. 고객 트래픽을 보호하는 규칙이 되려면 공격을 잡는 것만으로는 부족했습니다.
이 작업은 Managed Ruleset의 탐지 개선으로 이어졌습니다. 7월 21일 릴리스에 SSRF - Obfuscated Host와 SSRF - Restricted Protocol 신규 탐지가 추가됐습니다. 기존 SSRF - Cloud 규칙 개선에도 기여했습니다. 그중 SSRF - Obfuscated Host는 내부 주소를 비표준 숫자 형식으로 인코딩한 요청에서 직접 나온 탐지입니다.
반복 횟수보다 넓은 탐색 범위
한 시나리오를 오래 실행한다고 발견이 계속 늘지는 않았습니다. 일부 시나리오는 25회 한도에 가까워지면서 앞서 시도한 아이디어를 되풀이했습니다. 한 흐름의 시도를 더 늘리기보다 시작 요청과 공격 범주, 입력 위치를 다양하게 했을 때 검사 범위가 넓어졌습니다.
같은 모델 계열의 버전 2개로 동일한 시나리오를 실행했을 때도 차이가 있었습니다. 생성한 변형은 달랐지만 같은 문제들이 나타났습니다. 요청 재전송과 증거 수집 방식을 일정하게 유지한 덕분에 어느 모델의 설명을 정답으로 삼지 않고도 실행 결과를 비교할 수 있었습니다.
이번 실험은 모델이 애플리케이션 내부와 WAF 규칙을 모르는 조건이었습니다. Cloudflare는 후속 글에서 모델에 애플리케이션 취약점과 이를 보호하는 WAF 규칙을 모두 알려 주는 white-box 방식의 추가 테스트 결과를 공유할 계획입니다.
애플리케이션까지 보호하는 여러 방어 계층
고객이 이 실험을 그대로 재현할 필요는 없습니다. Cloudflare가 권고하는 출발점은 애플리케이션 앞의 Managed Rules와 WAF Attack Score 설정을 확인하는 일입니다. Managed Rules는 먼저 log로 운영하고 Security Events에서 매칭된 요청을 검토한 뒤, 정상 트래픽에 영향이 없음을 확인하고 Block으로 전환하도록 안내합니다. 계정 담당 팀에 Attack Signature Detection 활성화를 요청하면 매칭된 트래픽 검토와 시그니처 탐지 배포를 더 간단하게 진행할 수 있습니다.
이미 애플리케이션 보안 테스트를 운영한다면 production과 같은 Cloudflare 보호 설정을 적용한 staging 호스트에서 실행하도록 권고합니다. API Security, Bots and Fraud detection, Threat Intelligence도 추가 보호 계층입니다. 예를 들어 positive security controls는 애플리케이션이 기대하는 요청 형태를 정의하고 그 계약을 벗어난 입력을 찾습니다. 알려진 공격 패턴을 탐지하는 방식에 이런 제어를 더하면 공격 표면을 크게 줄입니다.
WAF를 통과한 페이로드도 애플리케이션에 악용 가능한 취약점이 있어야 공격에 성공합니다. 소프트웨어를 패치하고 최신 상태로 유지하는 일은 여전히 가장 강력한 방어 수단 중 하나입니다.
실험 조건과 검토 결과
| 항목 | 값 |
|---|---|
| 시나리오 구성 | 전체 45개 중 44개가 주요 공격 범주 6개에 해당하며, 나머지 1개는 별도 보고한 log injection |
| 테스트 WAF 설정 | WAF Attack Score 30 이하 차단, Cloudflare Managed Ruleset 전체 활성화, OWASP Core Ruleset Paranoia Level 3 |
| 기록된 변형 시도 | 1,107회이며, 모두 사용 가능한 결과를 생성한 것은 아님 |
| 검토 후 결과 집합 | 차단 요청 558건과 WAF 관련 발견 사항 49건을 합친 607건 |
| 발견 사항의 분포 | 49건 중 CMDi·SSRF에 속한 사례 48건 |
| SSRF 주소 변형 | 직접 표기 169.254.169.254, 정수 2852039166, 8진수 0251.0376.0251.0376, 마지막 점 표기 169.254.169.254. |
| SSRF 비교 요청 | 시도 17의 정수 호스트는 차단, 같은 요청 형태에서 호스트만 마지막 점 표기로 바꾼 시도 18은 리디렉션 관측 |
| 시나리오 시도 한도 | 25회이며, 일부는 한도에 가까워지며 이전 아이디어 반복 |
| 모델 비교 | 같은 모델 계열의 버전 2개로 동일한 시나리오 실행 |
| 후보 규칙 묶음 | 관련 발견 사항을 4개 묶음으로 분류 |
| Managed Ruleset 변경 | 7월 21일 릴리스에 SSRF - Obfuscated Host와 SSRF - Restricted Protocol 신규 탐지 추가, 기존 SSRF - Cloud 규칙도 개선 |