목차
휴가 사진과 사업 계획을 구별하는 File Semantic Analyzer (2026-06)
원문 정보
- 원문: Building a File Semantic Analyzer: Guarding Outbound Data at Scale with AI
- 매체 · 게시일: Uber Engineering Blog · 2026-06-04
- 저자: Deepak Sharma(Engineering Manager II), Aditya Kumar(Staff Software Engineer), Shubham Sonkar(Sr. Security Technologist)
- 원문 내용을 바탕으로 재구성한 요약입니다.
confidential 한 단어에 반응하는 DLP
개인 메모에 적힌 “confidential”은 경보를 부르고, 민감한 사업 계획은 뚜렷한 키워드가 없어 빠져나갑니다. 기존 데이터 유출 방지(DLP) 시스템이 파일의 의미를 읽지 못하고 키워드, 토큰, 패턴에 의존하면서 생긴 문제입니다.
원문은 직원 수천 명이 날마다 파일을 만들고 공유하는 대기업을 가정합니다. 그런 파일에는 휴가 사진부터 고객 목록, 코드, 설계 명세, 사업 전략 문서까지 섞여 있습니다. 파일은 이메일 첨부, 클라우드 업로드, USB로 회사 밖으로 나갑니다. 그 흐름에서 업무상 중요한 파일을 가려내는 일은 바이트 더미에서 바늘을 찾는 작업입니다.
불필요한 경보가 쌓이면 보안팀은 경보 피로에 시달리고 실제 위협을 놓칠 위험도 커집니다. 사람이 모든 파일을 확인하기에는 데이터가 너무 많았습니다. 지식재산을 포함한 민감 정보를 보호하려면 파일을 스캔하는 데서 더 나아가 내용을 읽고 이해하는 시스템이 필요했습니다.
문서의 관계와 의도를 읽는 FSA
File Semantic Analyzer(FSA)는 분석가가 수백 쪽을 읽지 않아도 파일의 성격을 파악하도록 요약과 분류, 판단 근거를 함께 제공합니다. 해석을 맡은 것은 파인튜닝한 대규모 언어 모델(LLM)입니다. 모델은 사람 이름과 조직명, 날짜, 재무 수치, 프로젝트 코드 같은 개체를 추출합니다. “기밀 프로젝트 계획”, “고객 데이터베이스”, “미공개 제품 사양”처럼 민감한 내용을 가리키는 표현도 찾습니다.
추출한 정보 사이의 관계도 읽습니다. 한 절에 등장한 “Project X”를 다른 절의 “Budget Approval”과 연결하고, 내용과 개체, 맥락을 종합해 파일의 의도와 업무상 중요도를 확률적으로 평가합니다. 민감한 합병 계약서 초안은 업무상 중요한 파일로, 개인정보가 담긴 개인 여행 일정표는 조직에 중요하지 않은 파일로 추정하는 식입니다.
분류에는 이유가 붙습니다. 예를 들어 “3분기 실적을 다루고, 미공개 매출 수치를 언급하며, 투자자 연락처를 포함하므로 Business Critical - Financial로 분류했다”는 설명을 분석가에게 제공합니다. 분석가는 분류 이름뿐 아니라 모델이 어떤 내용을 근거로 판단했는지도 확인합니다.
파일의 목적지까지 반영하는 Decision
이 해석 결과가 경보로 이어지는 곳은 규칙 기반 엔진인 Decision입니다. 요약, 추출한 개체, 추정 의도, 설명을 입력으로 받아 파일 내용과 목적지에 맞는 정책을 적용합니다. 규칙에는 파일에 등장한 단어뿐 아니라 그 파일의 용도가 들어갑니다. 원문이 든 예는 다음과 같습니다.
- 미공개 제품 사양으로 요약된 파일이 외부 도메인으로 갈 때 경보
- 고객 개인정보(PII)를 담고 마케팅 캠페인 목록으로 요약된 파일이 개인 이메일 주소로 갈 때 경보
- 개인 휴가 사진으로 요약된 파일이 외부 이메일 주소로 갈 때는 이름이 있어도 경보 없음
파일의 맥락을 보존하는 File Processing
이런 판단을 뒷받침하려면 먼저 정답 기준이 있어야 했습니다. 가장 품이 많이 드는 작업이기도 합니다. 팀은 다양한 파일을 계속 수집하고 익명화한 뒤, 분야별 전문가가 “Business Critical”, “Personal”, “Neutral”로 라벨을 붙인 데이터셋을 마련했습니다. 사람이 분류한 이 자료가 AI의 정답 기준입니다.
실제 분석은 File Connector가 파일이 외부로 나가는 지점에서 파일을 수집하면서 시작됩니다. 입력에는 Google Drive와 사내 협업 파일 공유 등 기업의 여러 데이터 소스가 포함됩니다. File Processing은 PDF, 문서, 스프레드시트, 프레젠테이션, HTML에서 일반 텍스트를 추출합니다. 이미지 기반 파일은 먼저 OCR로 텍스트를 얻은 뒤 생성형 AI 분석에 넘기는 방식입니다.
긴 파일은 나누어야 합니다. LLM의 토큰 한도를 넘기면 문서 끝의 중요한 내용을 놓칠 수 있기 때문입니다. 팀은 문단이나 절, 초기 분석에서 파악한 의미 주제를 기준으로 파일을 나누어 각 조각의 맥락을 유지하는 청킹 전략을 만들었습니다.
전처리한 조각은 각각 LLM에 전달됩니다. 그 사이에서 Prompt Building이 생성형 AI 엔진에 맞게 프롬프트를 최적화하고 필요한 맥락을 담습니다. 파일을 읽을 수 있는 텍스트로 바꾸는 작업과, 나눈 뒤에도 의미가 이어지도록 준비하는 작업이 해석 엔진 앞에 놓여 있습니다.
LLM의 판단을 검증하는 Manual Review
LLM은 파일을 자신 있게 잘못 해석하거나, 파일에 없는 민감 정보를 만들어 낼 수 있습니다. 모든 분류에 설명을 요구한 이유입니다. 분석가가 설명을 실제 파일 내용과 대조하면서 모델의 판단을 검증하도록 했습니다.
신뢰도 높은 탐지 결과도 조치 전에는 사람이 확인합니다. Manual Review를 둔 이유는 자동 판단의 오류가 업무 중단으로 이어지는 것을 막기 위해서입니다. 분석가는 반복적인 내용 검토의 부담을 덜고 중요한 결과를 검증하는 역할에 집중합니다.
사람의 검토는 모델을 개선하는 입력이기도 합니다. 분류가 맞았는지, 요약이 파일의 내용을 잘 담았는지에 관한 분석가의 피드백은 LLM 프롬프트를 다듬고 파인튜닝 방향을 정하는 데 쓰입니다.
수 시간에서 몇 분으로 줄어든 사고 대응
분석가가 파일마다 문서를 열어 내용을 파악하는 대신 요약과 민감 요소를 바로 확인하면서, 유출 사고 대응 시간은 건당 수 시간에서 몇 분으로 줄었습니다. 오탐도 97% 감소했습니다. 저자들은 의미를 추론하는 방식이 새로운 데이터나 회피 기법을 만났을 때 실제 위협을 놓치는 일도 줄였다고 설명합니다.
파일당 평균 절감 시간은 5분입니다. 팀은 연간 약 15만 개의 파일을 분석할 것으로 예상하고, 이 처리량을 바탕으로 전체 절감 효과를 약 4인년으로 추산했습니다.
분류 기준과 도입 효과 수치
| 항목 | 값 |
|---|---|
| 라벨 분류 | Business Critical, Personal, Neutral |
| 유출 사고 대응 시간 | 건당 수 시간에서 몇 분으로 단축 |
| 파일당 절감 시간 | 평균 5분 |
| 예상 연간 분석 파일 수 | 150,000개 |
| 총 절감 효과 | 4인년 |
| 오탐 감소율 | 97% |
텍스트 추출 너머의 멀티모달 GenAI
현재 이미지 기반 파일은 OCR로 텍스트를 뽑아 분석하지만, 팀은 이미지 자체를 이해하는 멀티모달 생성형 AI를 탐색하고 있습니다. 사내 도구의 스크린샷을 읽고 영상과 음성의 민감 정보까지 분석 범위를 넓히려는 구상입니다.
키워드 매칭을 FSA의 분류로 대체하는 의미 기반 DLP 집행도 시험 중입니다. 파일의 맥락과 의도를 기준으로 유출을 차단하는 자율 방어 쪽으로 나아가려는 시도입니다.