본문으로 건너뛰기
공격을 입증하는 Mythos Preview와 Cloudflare의 하네스
목차

공격을 입증하는 Mythos Preview와 Cloudflare의 하네스 (2026-05)

원문 정보

작동하는 공격까지 완성한 Mythos Preview

Cloudflare는 몇 달 동안 자체 인프라에서 보안 중심 LLM을 시험했습니다. 자기 코드의 취약점을 고치는 일이면서, 공격자가 최신 모델로 어디까지 할 수 있는지 확인하는 일이기도 했습니다. Project Glasswing에 참여한 뒤에는 Anthropic의 Mythos Preview를 자체 저장소 50개 이상에 적용했습니다.

달라진 부분은 버그를 찾은 다음이었습니다. 실제 공격은 작은 공격 요소 여러 개를 연결하는 경우가 많습니다. 예를 들어 use-after-free 버그로 임의 읽기·쓰기 기능을 확보하고, 제어 흐름을 탈취한 뒤 ROP 체인으로 시스템을 장악하는 식입니다. Mythos Preview는 이런 요소들을 작동하는 공격으로 연결했고, 그 과정의 추론은 자동 스캐너보다 숙련된 연구자의 작업에 가까웠습니다.

의심을 확인하는 작업도 직접 맡았습니다. 버그를 유발하는 개념 증명(PoC) 코드를 작성해 임시 환경에서 컴파일하고 실행합니다. 예상과 다른 결과가 나오면 실패 내용을 읽고 가설을 고쳐 다시 시도했습니다. 버그가 있을 법하다는 보고에서 실제로 악용할 수 있다는 증명까지 스스로 이어 간 것입니다.

같은 하네스에서 실행한 다른 프런티어 모델도 상당수의 동일한 버그를 찾았고, 일부는 예상보다 깊게 추론했습니다. 차이는 공격 요소를 연결하는 지점에 있었습니다. 다른 모델이 버그의 의미를 설명한 뒤 공격을 완성하지 못한 채 멈췄다면, Mythos Preview는 낮은 심각도로 백로그에 묻혀 있었을 버그들을 하나의 더 심각한 공격으로 연결할 수 있었습니다. Cloudflare가 이전 범용 모델과 단순한 성능 비교를 하기 어렵다고 본 이유도 작업의 성격이 이처럼 달라졌기 때문입니다.

큰 저장소에서 한계에 닿는 단일 세션

이 능력만으로 저장소 전체를 충분히 조사할 수 있었던 것은 아닙니다. Cloudflare도 처음에는 범용 코딩 에이전트에 저장소를 주고 취약점을 찾아보라고 했습니다. 보고는 나왔습니다. 그러나 실제 코드베이스를 의미 있게 살피고 가치 있는 발견을 얻는 데는 부족했습니다.

코딩 에이전트는 기능 구현이나 버그 수정처럼 한 작업을 붙잡고 반복하는 데 맞춰져 있습니다. 취약점 연구의 작업 단위는 더 좁습니다. 복잡한 기능 하나, 보안 경계를 넘는 지점, 특정 취약점 유형을 깊게 살핀 뒤 코드 전반에서 이런 조사를 수천 번 반복해야 합니다.

Cloudflare는 10만 줄 규모 저장소를 예로 들었습니다. 하위 에이전트를 쓰더라도 단일 세션이 컨텍스트를 채우기 전까지 유의미하게 살필 범위는 약 0.1%일 수 있다는 설명입니다. 이후 압축이 시작되면 앞서 찾은 중요한 단서가 사라질 가능성도 있습니다.

처리량에도 한계가 있었습니다. 여러 구성 요소에 여러 가설을 병렬로 적용하고, 유망한 단서가 나오면 조사를 더 확장해야 하는데 단일 작업 흐름은 이를 따라가지 못했습니다. 이미 단서를 잡은 연구자에게 코딩 에이전트는 함께 코드를 살펴볼 또 하나의 눈이 될 수 있습니다. 넓은 조사 범위를 확보하려면 모델을 더 오래 붙잡아 두는 것만으로는 부족했고, 실행 전체를 조율하는 하네스가 필요했습니다.

추측성 보고가 쌓이는 검토 큐

조사 범위를 넓히면 발견 이후의 부담도 커집니다. 버그가 실제로 존재하는지, 악용 가능한지, 지금 고쳐야 하는지를 가려야 하기 때문입니다. AI 취약점 스캐너와 AI 생성 코드는 원래도 어려웠던 이 작업을 더 무겁게 만들었습니다.

Cloudflare의 조사에서는 C와 C++처럼 메모리를 직접 제어하는 언어로 작성된 프로젝트에서 오탐이 일관되게 더 많았습니다. 모델의 편향도 문제였습니다. 버그를 찾으라고 하면 코드에 버그가 없어도 발견을 내놓고, “잠재적으로”, “이론적으로는” 같은 단서를 붙인 추측성 보고가 확실한 발견보다 훨씬 많이 쌓였습니다. 탐색 단계에서는 받아들일 만한 편향이어도, 검토 큐에서는 보고 하나를 기각할 때마다 사람의 주의력과 토큰을 소비합니다.

Cloudflare의 하네스는 놓치는 항목을 줄이려고 의도적으로 더 많이 보고하도록 조정돼 있었습니다. 그 조건에서도 Mythos Preview의 결과는 검토하기가 한결 나았습니다. 모호한 보고가 줄고 재현 절차가 분명해졌으며, 작동하는 PoC가 있으면 “이 버그가 실제로 존재하는가”를 따지는 작업을 줄일 수 있었습니다. 수정할지 기각할지 판단하기까지의 부담이 줄었다는 관찰이며, 전체 취약점 수나 정량적인 탐지율·오탐률은 제시하지 않았습니다.

좁은 질문을 나눠 맡긴 탐색 파이프라인

하네스는 모델이 헤매지 않도록 질문부터 좁혔습니다. 예컨대 특정 함수에서 명령 주입이 가능한지 묻고, 그 함수 위의 신뢰 경계와 아키텍처 문서, 이전 조사 범위를 함께 주는 식입니다. 많은 에이전트가 이런 좁은 질문을 병렬로 조사하고 나중에 결과를 합치는 편이, 한 에이전트에게 빠짐없는 조사를 요구하는 것보다 조사 범위를 넓히는 데 유리했습니다.

Cloudflare는 Mythos Preview를 기존 하네스의 확장과 개선에도 사용했습니다. 이 하네스가 살핀 실제 코드는 런타임, 엣지 데이터 경로, 프로토콜 스택, 제어 영역과 의존하는 오픈소스 프로젝트에 걸쳐 있었습니다.

출발점인 Recon은 공통 맥락을 만드는 단계입니다. 에이전트가 저장소를 위에서부터 읽고 하위 시스템별 하위 에이전트로 조사를 확장해, 빌드 명령과 신뢰 경계, 진입점, 예상 공격 표면을 아키텍처 문서로 남깁니다. 다음 단계에서 실행할 초기 작업 큐도 여기서 만듭니다.

Hunt에서는 공격 유형 하나와 조사 범위를 짝지어 작업을 배분했습니다. 통상 hunter 약 50개가 병렬로 실행되고, 각각 소수의 탐색용 하위 에이전트로 확장하는 방식입니다. 각 hunter는 작업별 임시 디렉터리에서 PoC를 컴파일하고 실행할 도구를 사용했습니다.

발견이 나오면 Validate의 독립 에이전트가 코드를 다시 읽고 원래 보고를 반박하려 시도합니다. 다른 프롬프트를 사용하며, 새로운 발견을 추가할 권한은 없습니다. Cloudflare는 독립 검토에서 프롬프트와 모델이 다른 에이전트들이 의도적으로 이견을 내게 하는 방식이, 한 에이전트에게 더 신중하라고 요구하는 것보다 훨씬 효과적이었다고 설명했습니다.

조사에서 빈 곳과 중복도 처리해야 했습니다. Gapfill은 hunter가 건드렸지만 충분히 살피지 못한 영역을 다시 큐에 넣습니다. 모델이 이미 성과를 낸 공격 유형에 치우치는 경향을 보완하는 단계입니다. Dedupe는 근본 원인이 같은 발견을 하나로 합쳐, 변종 분석 결과가 중복 보고로 큐를 부풀리지 않게 합니다.

공유 라이브러리에서 결함을 확인한 뒤에는 Trace가 이어집니다. 코드에 버그가 있다는 사실과 외부 공격자가 그 버그에 도달할 수 있다는 판단은 별개의 질문입니다. Trace는 라이브러리를 사용하는 저장소마다 tracer 에이전트를 실행하고 저장소 간 심벌 인덱스를 참조해, 공격자가 제어하는 입력이 시스템 밖에서 실제 결함까지 닿는지 확인했습니다. Cloudflare가 가장 중요하게 본 단계입니다.

도달 가능한 경로는 Feedback에서 해당 소비자 저장소의 새 탐색 작업으로 돌아갑니다. 마지막 Report는 정해진 스키마에 맞춰 보고서를 작성하고, 스키마 검증 오류를 스스로 고친 뒤 수집 API에 제출합니다. 이렇게 조사 결과를 다시 탐색에 사용하면서, 최종 출력은 조회 가능한 데이터로 남겼습니다.

같은 요청에도 달라진 거절 응답

연구를 진행하다 보면 모델이 요청을 거절하기도 했습니다. Project Glasswing에 제공된 Mythos Preview에는 일반 공개 모델의 추가 안전장치가 없었지만, 모델 자체에서 나타나는 가드레일이 정당한 보안 연구를 막는 경우가 있었습니다. 문제는 그 거절이 일관되지 않았다는 점입니다.

한 프로젝트에서는 처음에 연구를 거절했다가, 분석 대상 코드와 무관한 환경 변경 뒤에 같은 연구를 수락했습니다. 코드는 그대로였습니다. 다른 사례에서는 심각한 메모리 버그 여러 개를 확인하고도 시연용 공격 코드 작성을 거절했지만, 요청 표현을 바꾸자 응답이 달라졌습니다. 모델의 확률적 특성 때문에 같은 요청도 실행마다 다른 결과를 낼 수 있었습니다.

이런 거절 행동만으로 완전한 안전 경계를 세우기는 어려웠습니다. Cloudflare는 향후 강력한 사이버 프런티어 모델을 일반에 공개하려면 추가 안전장치가 필요하다고 봤습니다. 이번 연구는 통제된 환경에서 자체 코드를 대상으로 진행했으며, 발견한 취약점은 공식 취약점 관리 절차에 따라 분류·검증하고 조치가 필요한 경우 수정했습니다.

패치 전의 악용을 어렵게 만드는 방어 설계

Mythos Preview를 본 보안팀들의 큰 관심사는 속도였습니다. Cloudflare가 대화한 복수의 팀은 CVE 공개부터 production 패치까지 2시간 SLA를 적용하고 있었습니다. 공격자의 시간이 짧아지면 방어자도 빨라져야 한다는 판단입니다.

하지만 패치 기한을 줄인다고 패치를 만드는 과정까지 짧아지지는 않습니다. 회귀 테스트에 하루가 걸린다면, 테스트를 생략하지 않고 2시간 SLA를 맞출 수는 없습니다. Cloudflare도 모델에 패치 작성을 맡겼다가 원래 버그를 고친 일부 패치가 코드에서 의존하던 다른 동작을 깨뜨리는 일을 겪었습니다.

그래서 버그가 남아 있는 동안의 방어 설계가 문제가 됩니다. 애플리케이션 앞에서 취약한 코드로 향하는 접근을 막고, 한 부분의 결함으로 다른 부분까지 접근하지 못하도록 애플리케이션을 설계해야 한다는 제안입니다. 수정 사항도 개별 팀의 배포를 기다리지 않고 코드가 실행되는 모든 위치에 한 번에 배포할 수 있어야 합니다. 목표는 취약점 공개와 패치 사이의 시간이 보안에 미치는 영향을 줄이는 데 있습니다.

자체 코드에서 버그를 찾는 데 쓰인 능력은 공격자의 작업도 가속할 수 있습니다. 수백만 애플리케이션 앞에 있는 Cloudflare는 자사 제품이 이런 방어 원칙을 고객에게 적용하도록 설계됐다고 설명했습니다. 이것이 고객에게 어떤 의미가 있는지는 앞으로 몇 주 안에 더 공유할 예정이라고 밝혔습니다.

조사 범위와 실행 규모·운영 조건
항목값
Mythos Preview 적용 범위Cloudflare 자체 저장소 50개 이상
Hunt 병렬 실행 규모통상 hunter 약 50개를 병렬 실행하며, 각각 소수의 탐색용 하위 에이전트로 확장
단일 세션의 조사 범위 예시하위 에이전트를 사용해도 10만 줄 규모 저장소에서 컨텍스트가 차기 전 유의미하게 살필 수 있는 범위를 약 0.1%로 설명
일반 공개 모델의 추가 안전장치 비교 예시Opus 4.7, GPT-5.5를 언급하며, Project Glasswing용 Mythos Preview에는 해당 추가 안전장치가 없었다고 설명
외부 보안팀의 패치 SLA 사례대화한 복수 팀이 CVE 공개부터 production 패치까지 2시간 SLA를 적용
회귀 테스트 소요 시간의 조건 예시회귀 테스트에 하루가 걸린다면 이를 생략하지 않고 2시간 SLA를 달성할 수 없다는 설명
마지막 수정 일자