본문으로 건너뛰기
Linux CUBIC의 유휴 보정에 갇힌 QUIC 연결
목차

Linux CUBIC의 유휴 보정에 갇힌 QUIC 연결 (2026-05)

원문 정보

10초 안에 끝나지 않은 quiche 다운로드

Cloudflare의 ingress proxy 통합 테스트에서 HTTP/3 다운로드가 불규칙하게 시간 제한을 넘겼습니다. localhost의 quiche 클라이언트와 서버로 10 MB 파일을 내려받으며, 처음 2초 동안에만 30%의 무작위 패킷 손실을 주입하는 테스트였습니다. 예상 완료 시간은 4~5초입니다. 제한 시간을 넉넉하게 10초로 잡았는데도, 여러 차례 100회씩 반복한 결과 약 60%가 그 안에 끝나지 않았습니다.

이때 전송량을 조절하던 CUBIC은 Linux와 Cloudflare의 QUIC 구현인 quiche에서 기본으로 쓰는 혼잡 제어 알고리즘입니다. CUBIC이 조절하는 혼잡 윈도(cwnd)는 송신했지만 아직 ACK로 확인받지 못한 데이터량의 상한입니다. 손실이 없으면 가속 페달을 밟아 윈도를 키우고, 손실이 나면 브레이크를 밟아 줄입니다. 손실이 멎은 뒤에는 다시 속도를 내야 했습니다.

qlog에 손실 이벤트를 기록하고 시각화하자 다른 모습이 드러났습니다. 손실은 사라졌는데 cwnd는 2,700바이트, 패킷 두 개의 최솟값에 붙어 있었습니다. 복구와 혼잡 회피를 오가는 반복 주기는 약 14 ms로, 설정한 RTT 10 ms와 가까운 간격입니다. 같은 테스트에서 Reno는 모두 통과했고, 다운로드도 약 5초에 끝냈습니다. 문제는 CUBIC 쪽에 있었습니다.

ACK를 기다린 시간만큼 밀려난 복구 경계

ACK를 기다린 한 RTT가 통째로 유휴 시간에 들어가고 있었습니다. quiche는 on_packet_sent()에서 bytes_in_flight == 0, 즉 아직 확인받지 못한 전송 데이터가 없으면 연결이 쉬었다고 판단했습니다. 마지막 송신 이후 흐른 시간을 유휴 구간으로 잡아 복구 시작 시각에 더하는 방식입니다.

문제의 연결에는 보낼 데이터가 남아 있었습니다. 서버는 윈도가 허용한 패킷 두 개를 보낸 뒤 ACK를 기다렸고, 클라이언트가 둘 다 확인하면 bytes_in_flight가 0이 됐습니다. 곧바로 다음 두 패킷을 보내더라도 전송 직전에는 값이 0이므로, quiche는 매번 유휴 보정을 적용했습니다. 혼잡 윈도에 막혀 기다린 시간을 애플리케이션이 쉬었던 시간으로 오인한 것입니다.

실제 공백은 거의 없었습니다. 마지막 ACK를 처리하고 다음 패킷을 보내기까지의 간격은 사실상 0인데, 마지막 송신부터 시간을 재면 ACK를 기다린 약 14 ms까지 포함됩니다. 복구 시작 시각은 ACK를 처리할 때 정하므로, 여기에 부풀려진 시간을 더하면 복구 경계가 미래로 밀릴 수 있습니다.

CUBIC은 복구 기간에 속한다고 판단한 패킷의 ACK로는 윈도를 늘리지 않습니다. 다음 ACK를 처리하면서 복구를 벗어나 경계를 새 ACK 시각으로 설정해도, 다음 송신의 보정이 다시 그 경계를 미래로 밀 수 있었습니다. 윈도는 두 패킷에 머물렀습니다. 다음 ACK에서도 전송 중 데이터가 전부 사라져 유휴 보정을 반복하니, 작은 윈도가 잘못된 판정을 부르고 그 판정이 윈도를 작게 붙잡는 ‘죽음의 나선’입니다.

연결 시작부터 이런 일이 생기지는 않았습니다. slow start에서는 복구 시작 시각이 아직 설정되지 않아 앞으로 밀 경계가 없고, CUBIC도 Reno와 같은 ACK 기반 규칙으로 윈도를 키웁니다. 실제 손실로 복구 경계가 생기고, 혼잡 회피가 동작하며, 윈도가 두 패킷까지 줄어들어야 함정이 작동했습니다. 애플리케이션에도 ACK를 받자마자 다음 윈도를 채울 데이터가 있어야 합니다.

한 번 시작된 순환은 수천 차례 이어질 수 있었습니다. 스케줄러 지터와 ACK 처리 편차가 쌓여 다음 패킷을 복구 경계 이후에 보내게 되면, 그제야 순환이 끊어질 수 있었습니다.

쉬었던 만큼 늦춰야 했던 CUBIC 성장 곡선

이 유휴 보정은 2017년 Linux CUBIC에서 발견한 실제 문제를 해결하려고 도입됐습니다. CUBIC은 손실 등으로 성장 함수를 다시 시작할 때 epoch라는 기준 시각을 정하고, 그때부터 흐른 시간으로 목표 윈도를 계산합니다. 애플리케이션이 몇 초 쉬었다 돌아와도 경과 시간은 계속 커집니다. 전송하지 않은 시간까지 성장에 반영한 탓에 목표 윈도가 지나치게 커지고, 전송을 재개하자마자 급격히 가속하는 문제가 있었습니다.

Jana Iyengar는 전송을 재개할 때 epoch를 새로 잡자고 제안했습니다. Neal Cardwell은 그러면 손실 직후처럼 현재 윈도에서 다시 가파르게 자라는 곡선을 그리게 된다고 지적했습니다. 채택된 해법은 유휴 시간만큼 epoch를 앞으로 옮기는 것입니다. 곡선 모양은 그대로 두고 시간축에서만 늦춰, 멈췄던 자리에서 성장을 이어가도록 했습니다.

quiche는 2020년에 이 방식을 가져왔습니다. 사용자 공간에서 동작하는 QUIC에는 TCP 커널의 CA_EVENT_TX_START 콜백이 없어, on_packet_sent()에서 유휴 여부를 판단했습니다. 문제는 초기 Linux 변경의 버그까지 함께 옮겨 왔다는 점입니다. Linux에서는 약 1주 뒤 epoch가 미래로 가지 않도록 후속 수정을 했지만, quiche에는 ACK 처리 시각과 송신 시각의 차이로 복구 경계가 밀리는 문제가 남았습니다.

세 줄 수정 뒤 다시 커진 quiche의 윈도

Cloudflare는 유휴 시간을 재는 출발점을 바꿨습니다. CUBIC 상태에 last_ack_time을 추가하고 ACK가 도착할 때 갱신하도록 한 뒤, 다음 송신에서는 last_ack_time과 last_sent_time 중 더 늦은 값을 유휴 시작점으로 사용했습니다. 마지막 ACK 시각으로 bytes_in_flight가 0이 된 순간을 근사한 것입니다.

이제 ACK를 기다린 RTT는 유휴 시간에 들어가지 않습니다. 복구 경계는 거의 움직이지 않고, 다음 패킷이 경계 이후에 전송되면서 윈도가 다시 자랍니다. 실제로 오래 쉬었던 연결에서는 마지막 ACK도 오래전에 도착했으므로 같은 계산으로 유휴 구간을 반영합니다. 성장 곡선을 쉬었던 만큼 시간축에서 늦추는 원래 동작은 유지됐습니다.

수정 후 quiche 테스트 모음은 통과율 100%를 회복했습니다. 윈도는 예상한 CUBIC 곡선을 따라 자랐고, 다운로드는 약 4~5초에 끝났습니다. 연결 끝부분의 손실은 예상된 현상입니다. 라우터에 할당된 버퍼를 모두 사용한 결과로, 이 테스트에서는 가용 대역폭을 충분히 활용하고 있다는 뜻입니다.

수정은 코드 세 줄이었습니다. 판단 로직만 보면 사실상 한 줄이지만, 그 한 줄을 찾기까지 수주간 qlog를 계측하고 시각화를 분석했습니다. 높은 전송 속도에서는 보이지 않던 버그가 심한 손실 뒤 최소 윈도에서 드러난 것입니다. 정상 상태와 성장 구간을 주로 확인하는 테스트에서 벗어나, 윈도를 바닥까지 줄인 뒤 다시 올라오는지 확인한 테스트가 단서를 줬습니다.

이 수정은 cloudflare/quiche에 기여됐습니다. Cloudflare는 quiche의 모듈식 혼잡 제어 설계를 활용해 모델 기반 BBRv3 구현도 실험하고 조정하며, QUIC 배포에서 이를 활성화하는 비율을 늘리고 있다고 밝혔습니다.

재현 조건과 관측·수정 수치
항목값
관련 표준RFC 9438, 애플리케이션 제한 구간 제외 설명 §4.2-12
변경 이력Linux 유휴 보정 2017년, quiche 이식 2020년; Linux 후속 수정은 초기 변경 약 1주 뒤
재현 환경localhost에서 실행한 quiche HTTP/3 클라이언트와 서버, CUBIC 사용
전송·지연 설정파일 10 MB 다운로드, 설정 RTT 10 ms
손실 주입연결 시작 후 2초간 무작위 패킷 손실 30%, 이후 손실 중단
완료 시간 기준예상 4~5초, 테스트 제한 시간 10초
수정 전 실패여러 차례의 100회 반복 실행에서 약 60% 실패; 원문 소제목에는 61%로 표현
실패 연결의 관측약 6.7초 동안 상태 전환 999회; 원문이 설명한 반복 주기는 약 14 ms
고정된 최소 윈도2,700바이트, 전체 크기 패킷 2개
Reno 비교같은 테스트 통과율 100%, 약 5초에 다운로드 완료
수정 후 결과quiche 테스트 모음 통과율 100%, 다운로드 약 4~5초
수정 규모원문 설명 기준 코드 3줄 변경, 판단 로직은 사실상 한 줄
마지막 수정 일자