본문으로 건너뛰기
MongoDB WiredTiger 파일에서 찾은 데이터의 행방
목차

MongoDB WiredTiger 파일에서 찾은 데이터의 행방 (2024-12)

원문 정보

  • 원문: MongoDB WiredTiger의 파일 구조
  • 매체 · 게시일: 카카오 기술블로그 · 2024-12-06
  • 저자: andy.hj (카카오 분산데이터베이스 조직, MongoDB 운영)
  • WiredTiger 시리즈의 첫 글입니다. 이후 글은 WiredTiger의 주요 변경사항 등을 다룰 예정이라고 원문이 언급합니다.
  • 원문 내용을 바탕으로 재구성한 요약입니다.

눈에 힘을 줘도 읽히지 않는 파일

파일은 열리는데 내용을 읽기가 어렵습니다. MongoDB 데이터 디렉터리의 sizeStorer.wt를 출력하면 numRecords, dataSize 같은 익숙한 이름 사이로 알아보기 힘든 문자가 이어집니다. 눈에 힘을 주면 뭔가 더 보일 듯하지만, 대부분의 파일은 패키징되고 압축되어 텍스트 출력만으로 해석하기 어렵습니다.

이런 세부 형식을 몰라도 MongoDB를 사용하거나 이슈를 분석하는 데 지장은 없습니다. 그래도 삽입하고 갱신한 도큐먼트가 파일에서는 어떤 모습인지 궁금해집니다. 카카오에서 MongoDB를 운영하는 글쓴이는 Oracle이나 MySQL만큼 깊이 있는 자료를 찾기 어려웠던 경험에서 출발해, 직접 확인하고 정리한 내용을 공유했습니다.

파일을 관리하는 WiredTiger는 메모리와 디스크에 데이터를 저장하는 방식을 담당하는 MongoDB의 기본 스토리지 엔진입니다. 원문의 실험 환경은 MongoDB 6.0.11이며, 엔진 버전을 적은 텍스트 파일 WiredTiger에서는 10.0.2를 확인했습니다. storage.directoryPerDB 옵션을 사용하면 데이터베이스마다 전용 디렉터리를 둡니다.

파일을 읽는 데는 bsondump와 wt를 사용합니다. MongoDB 바이너리 패키지에 포함된 bsondump는 BSON(Binary JSON)을 사람이 읽을 수 있는 JSON으로 바꿔 줍니다. WiredTiger 내부 파일에 접근하는 wt는 별도로 빌드해야 합니다. 원문에서는 mongodb-6.0 브랜치의 소스를 받아 cmake로 설정한 뒤 make wt로 바이너리를 만들었습니다.

wt를 사용할 때는 mongod 프로세스가 종료된 상태여야 합니다. 파일을 직접 수정하는 기능도 있으므로 운영 환경에서는 주의해야 합니다.

갱신과 삭제까지 row_put으로 남는 저널

kakao.wt_version에 도큐먼트를 삽입하고, check: true를 추가한 뒤 삭제합니다. 서로 다른 연산을 실행했는데 wt printlog로 확인한 저널의 optype은 모두 row_put이었습니다. fileid도 전부 18(0x12)입니다. 사용자 연산을 기록한 oplog에 새 레코드를 넣는 작업이 저널에 남았기 때문입니다.

이 연결은 파일 식별자를 따라가면 확인됩니다. WiredTiger.wt에서 id 18을 찾으면 local/collection-2-9099766355459865316.wt가 나오고, 이 파일의 식별자를 _mdb_catalog.wt에서 찾으면 네임스페이스 local.oplog.rs에 도달합니다. 저널의 value를 bsondump로 해독한 결과도 db.oplog.rs.find()로 조회한 oplog와 같습니다. 쉘이 데이터 타입을 보기 편하게 표시해 출력 형태는 달라도 실제 값은 동일했습니다.

여기서 _mdb_catalog.wt는 MongoDB의 이름과 WiredTiger의 파일을 연결합니다. md에는 네임스페이스, 컬렉션 옵션, UUID, 인덱스 정보가 들어 있습니다. ns와 ident는 컬렉션 이름과 파일 식별자를 연결하고, idxIdent는 인덱스 이름에 대응하는 식별자를 담습니다. 예를 들어 kakao.wt_version은 kakao/collection-0-6574883217453298519에 연결됩니다. 이런 메타데이터를 별도로 관리하므로 실제 인덱스 파일에는 인덱스 값을 담을 수 있습니다.

oplog는 복제를 위해 프라이머리의 변경사항을 새 레코드로 기록합니다. 사용자 도큐먼트를 갱신하거나 삭제해도 oplog에는 삽입이 발생하므로, 예제의 저널에는 row_modify가 아닌 row_put이 남습니다. 사용자 컬렉션과 인덱스 파일의 설정은 log=(enabled=false)이고 oplog 파일은 log=(enabled=true)인 이유도 여기에 있습니다. 모든 파일의 변경을 저널에 쓰지 않아도 oplog를 저널링하면 복구할 수 있고, oplog가 가능하면 원본 대신 변경분을 저장한다는 이점도 있습니다.

이 설명에는 배포 구성이라는 조건이 붙습니다. standalone에는 복제용 oplog가 없으므로 모든 컬렉션과 인덱스 파일을 저널링해야 합니다. 저자는 MongoDB의 강점을 충분히 활용하기 어렵다는 이유로 standalone을 테스트용으로만 사용하기를 권합니다.

마지막 체크포인트를 담는 WiredTiger.turtle

저널링을 끈 데이터·인덱스 파일의 쓰기는 우선 메모리에 머뭅니다. 이빅션이나 체크포인트가 수행될 때 디스크에 기록되며, 이 파일들은 체크포인트 내구성만 보장합니다. 예기치 않은 종료 후 복구할 기준점은 각 파일의 체크포인트입니다.

WiredTiger.wt는 그 기준점을 기록하는 메타데이터 파일입니다. file: 항목에는 파일의 구성과 최신 체크포인트 정보가 들어 있고, 체크포인트를 마친 디스크의 루트 페이지 주소도 여기에 남습니다. 체크포인트는 파일별로 수행되므로 파일마다 정보가 다를 수 있습니다. 앞서 저널에서 따라간 id 역시 이 파일에 저장된 고유 식별자입니다. 다른 파일을 참조할 때 긴 파일 이름 대신 id를 쓰면 불필요한 공간 사용을 줄일 수 있습니다.

그렇다면 이 메타데이터 파일의 체크포인트는 어디에 남을까요? 다른 파일의 체크포인트가 진행되는 동안에는 WiredTiger.wt도 계속 갱신됩니다. 그래서 전체 과정의 마지막에 WiredTiger.wt의 체크포인트를 수행하고, 그 결과를 WiredTiger.turtle에 따로 기록합니다. 체크포인트 과정은 스냅샷 격리 트랜잭션 안에서 실행되므로 완료될 때까지 일관된 뷰를 유지합니다. 저자는 turtle이라는 이름에서 거북이 등껍질에 중요한 기록을 새겼다는 이야기를 떠올리면서도, 단순히 느림을 뜻할 가능성까지 열어 둡니다. 이름의 유래는 추측입니다.

체크포인트는 저널 파일의 수명과도 연결됩니다. journal 디렉터리의 저널은 데이터를 먼저 기록해 비정상 종료에 대비하는 WAL입니다. WiredTiger는 저널 파일을 재사용하지 않고, 미리 만들어 둔 WiredTigerPreplog.*의 이름을 다음 번호로 바꿔 새 WiredTigerLog.00000N 파일로 사용합니다. 체크포인트에서 저널 내용이 데이터 파일에 동기화되면 그 이전의 저널은 더 이상 필요하지 않아 삭제됩니다.

재시작할 때는 WiredTiger.lock도 관여합니다. 이 파일은 다른 MongoDB 인스턴스의 중복 접근을 막고 정상 종료 여부를 판단하는 데 쓰입니다. 비정상 종료 후 lock 파일이 남아 있으면 WiredTiger는 마지막 안정된 체크포인트로 복구합니다. 이때 파일을 임의로 삭제하면 데이터 유실 위험이 있습니다.

긴 트랜잭션의 조회를 이어 주는 WiredTigerHS.wt

같은 도큐먼트의 AAA를 1에서 3, 5, 7, 9로 갱신하면 최신 조회 결과에는 9가 나타납니다. 이전 값도 필요한 순간이 있습니다. 스냅샷 격리 수준에서 오래 실행 중인 트랜잭션은 과거 버전을 읽어야 할 수 있기 때문입니다.

WiredTiger는 MVCC를 사용해 여러 버전의 변경사항을 메모리에 유지합니다. 변경사항을 담는 업데이트 체인은 단일 연결 리스트이며, 새 변경이 생길 때마다 맨 앞에 추가됩니다. 이빅션이나 체크포인트로 데이터를 디스크에 쓸 때는 이 중 하나의 버전을 선택합니다. 디스크에 기록할 이미지를 고르는 이 과정이 리컨실리에이션입니다.

선택한 이미지보다 오래된 버전을 메모리에서 없애기만 하면 과거 데이터를 읽던 트랜잭션이 조회에 실패할 수 있습니다. 그래서 이전 변경 이력을 WiredTigerHS.wt에 보관합니다. 앞의 예제에서 9를 디스크 이미지로 선택했다면 1, 3, 5, 7에 해당하는 버전은 히스토리 스토어에 기록됩니다. hs_value를 bsondump로 풀면 과거 도큐먼트 전문을 확인할 수 있습니다. 키와 값은 여러 정보를 조합한 형태라 단순한 BSON 해독만으로 전부 읽기는 어렵습니다. 저자는 삽입 코드의 btree id, key, start timestamp, counter 등의 파라미터를 참고하고 내부 구분자를 가정해 해석했습니다.

이전의 WiredTigerLAS.wt도 과거 버전을 보관했습니다. 서버 부하가 높아 메모리를 충분히 확보하지 못할 때, 최신 변경이 커밋된 페이지를 이빅션하면서 아직 조회할 수 있는 과거 버전을 임시로 기록하던 파일입니다. WiredTiger 10.0.0에서 도입된 히스토리 스토어는 이빅션 시 선택된 이미지보다 이전 버전을 기본적으로 모두 기록하며 이 기능을 완전히 대체했습니다. MongoDB에는 4.4부터 적용됐습니다.

트랜잭션이 메모리에서 적절한 버전을 찾지 못하면 히스토리 스토어를 조회합니다. 데이터가 이미 삭제되어 이 파일에도 없다면 WT_NOTFOUND가 반환됩니다. 보관 주기를 정하는 파라미터는 minSnapshotHistoryWindowInSeconds이며, MongoDB 6.0의 기본값은 300초입니다.

이 보관 주기 안에서는 Read Concern snapshot에 atClusterTime을 지정해 특정 과거 시점의 데이터를 조회할 수도 있습니다. 히스토리 스토어는 복구에도 쓰입니다. 체크포인트 사이에 예기치 않은 종료가 발생했을 때 최신 안정된 체크포인트 시점으로 일관성 있게 복구하는 데 활용할 수 있으며, Rollback To Stable이 그 예입니다.

같은 B+tree에 들어 있는 서로 다른 값

MongoDB에서 컬렉션과 인덱스는 역할이 다릅니다. WiredTiger는 둘 다 키-값 저장소로 다루며 B+tree로 관리합니다. 파일을 해독할 때 드러나는 차이는 키와 값에 무엇을 담고 어떻게 직렬화하느냐입니다.

원본 도큐먼트로 이어지는 RecordId

일반 컬렉션 파일의 키는 WiredTiger가 부여한 고유 식별자 RecordId이고, 값은 BSON 형식의 원본 도큐먼트입니다. RecordId는 showRecordId()로도 확인됩니다. 예제에서 조회한 RecordId는 1과 2이며, 컬렉션 파일의 키에는 각각 0x80을 더한 81, 82가 저장되어 있습니다.

_id 인덱스에서도 원본 도큐먼트로 가려면 RecordId를 거칩니다. 리프 페이지에는 _id와 RecordId의 쌍이 들어 있습니다. MySQL의 기본 키가 클러스터드 인덱스인 데 익숙하다면 낯선 부분입니다. 일반적인 MongoDB 컬렉션의 _id 인덱스는 보조 인덱스처럼 논클러스터드 방식이어서, 삽입에는 두 번의 쓰기, 조회에는 두 번의 읽기가 필요합니다.

필드명 없이 비교하는 KeyString

인덱스는 BSON 대신 이진 비교가 가능한 KeyString을 사용합니다. BSON은 중첩 객체를 비롯한 유연한 데이터 타입을 표현하기 좋지만 비교 연산이 상대적으로 복잡합니다. 빠른 조회가 목적인 인덱스에는 KeyString을 사용해 성능을 최적화한 것입니다.

필드 순서가 이미 정해져 있으므로 인덱스에 필드명을 반복해서 저장하지는 않습니다. 타입 정보는 남깁니다. MongoDB에서는 같은 필드에 숫자 100, 문자열 "100", 객체 {"n":"100"}이 들어갈 수 있기 때문입니다. KeyString은 Ctype에 정의된 타입 정보를 사용해 이 값들을 구분합니다. 문자열은 kStringLike의 60(0x3c), 객체는 kObject의 70(0x46)로 시작합니다.

숫자 100은 kNumeric(30) + 13 = 43, 즉 0x2b에 해당합니다. 뒤따르는 값 0xc8은 10진수로 200입니다. 저자는 실제 값의 두 배가 저장된 이유를 정수에 왼쪽 시프트 연산인 integerPart << 1을 적용했기 때문으로 추정합니다.

인덱스 안의 RecordId도 컬렉션 파일과 인코딩이 다릅니다. 처음 바이트의 상위 3비트와 마지막 바이트의 하위 3비트에 그 사이의 바이트 수 N(0~7)을 적습니다. 전체 길이는 N+2이므로 2바이트에서 9바이트까지 달라지며, 64비트 RecordId를 모두 표현할 수 있습니다. RecordId 1은 0008입니다. 2바이트로 표현할 수 있는 값은 1023까지이고, 1024는 3바이트인 202001로 저장됩니다.

예제의 _id 인덱스는 RecordId를 값에 저장하지만, 보조 인덱스는 키 뒤에 붙입니다. 보조 인덱스에는 중복된 값이 들어올 수 있으므로 키의 고유성을 확보하려는 목적으로 보인다는 것이 저자의 해석입니다.

_id 순서로 저장하는 클러스터드 컬렉션

MongoDB 5.3부터는 _id를 클러스터드 인덱스로 구성하는 클러스터드 컬렉션을 선택할 수 있습니다. 이때는 _id 인덱스를 도큐먼트와 별도로 저장하지 않고, 컬렉션 파일에 _id 순서로 도큐먼트를 보관합니다. 원문의 예제에서는 _id가 "777"인 도큐먼트를 먼저 넣고 "666"을 나중에 넣었지만, 파일에는 "666", "777" 순서로 저장됐습니다.

기본 키 조회가 도큐먼트를 담은 페이지로 직접 이어지므로 Disk I/O를 줄이고 쿼리와 삽입 성능에서 이점을 얻습니다. 그 대신 문서를 기본 키 순서로 유지해야 하므로 키 선택과 사용의 유연성에는 제약이 생깁니다. 보조 인덱스의 크기도 살펴야 합니다. 클러스터드 컬렉션에서는 보조 인덱스가 RecordId 대신 _id를 참조해 모든 키에 _id 값을 붙이므로, 어떤 값을 선택하느냐에 따라 기존보다 인덱스가 커질 수 있습니다.

고아 도큐먼트까지 포함하는 sizeStorer.wt

처음에 읽기 어려웠던 sizeStorer.wt에는 컬렉션별 도큐먼트 수와 데이터 크기가 들어 있습니다. 데이터를 추가하거나 수정할 때 _changeNumRecordsAndDataSize가 이 정보를 갱신하며, estimatedDocumentCount()는 저장된 값을 참조합니다. 덤프의 키를 ASCII로 해독하면 컬렉션 식별자가, 값을 BSON으로 해독하면 numRecords와 dataSize가 나옵니다.

저장된 수가 항상 최신인 것은 아닙니다. 연산 실패에 따른 롤백은 처리하지만 체크포인트 사이의 비정상 종료까지 반영하지는 않습니다. 이런 경우에는 서버를 재시작한 뒤 validate()로 메타데이터를 최신 값으로 갱신할 수 있습니다.

샤드 클러스터에서는 집계 대상에도 차이가 생깁니다. 청크 마이그레이션 실패나 비정상 종료로 이전 샤드에 남은 고아 도큐먼트가 있어도, 각 샤드가 관리하는 sizeStorer.wt의 값에서는 이를 걸러내지 못합니다. 따라서 estimatedDocumentCount() 결과에는 고아 도큐먼트가 포함됩니다. 이를 제외한 정확한 수를 구하려면 mongos에서 샤딩 필터인 SHARDING_FILTER 스테이지를 수행할 수 있는 countDocuments()를 사용해야 합니다.

MongoDB와 WiredTiger 버전 대응과 주요 값
항목값
MongoDB 3.0.15 / 3.2.20 / 3.4.15WiredTiger 2.5.3 / 2.9.2 / 2.9.2
MongoDB 3.6.4 / 4.0.16 / 4.2.1WiredTiger 3.0.1 / 3.1.1 / 3.2.2
MongoDB 4.4.0 / 5.0.0 / 6.0.0WiredTiger 10.0.0 / 10.0.1 / 10.0.2
MongoDB 7.0.0 / 8.0.0WiredTiger 11.2.0 / 11.3.0
글의 실험 환경MongoDB 6.0.11, WiredTiger 10.0.2
히스토리 스토어 도입WiredTiger 10.0.0, MongoDB 4.4부터 WiredTigerLAS.wt 대체
히스토리 스토어 기본 보관주기(6.0)300초 (minSnapshotHistoryWindowInSeconds)
클러스터드 컬렉션 지원MongoDB 5.3부터
저널링 활성 파일local.oplog.rs 컬렉션 파일(file id 18)
마지막 수정 일자