본문으로 건너뛰기
배포 부담과 기술 부채에서 출발한 이모티콘 서비스의 MSA
목차

배포 부담과 기술 부채에서 출발한 이모티콘 서비스의 MSA (2021-09)

원문 정보

카카오 이모티콘팀은 배포 단위와 담당 영역을 줄이고, 오래된 기술에 묶인 서비스를 조금씩 고치려고 MSA를 선택했습니다. 팀이 오래 살 집을 짓는 작업이었습니다. 2021년 9월 당시 배포와 유지 보수의 부담은 많이 줄었지만, 거대한 레거시를 나누는 공사는 여전히 진행 중이었습니다.

성장 뒤에 쌓인 이모티콘 서비스의 기술 부채

이모티콘 서비스는 출시 8년 만에 연 매출 1000억을 달성했습니다. 서버개발파트가 맡은 이모티콘 서비스, 이모티콘 스튜디오 서비스, 각각의 Admin 서비스 가운데 가장 크고 오래된 서비스였습니다. 성장을 거듭한 만큼 기술 부채도 쌓였습니다. 각 서비스는 모놀리스로 운영됐고, Play 1.2.7과 Java 7이 남아 있었으며 Admin 툴은 Ruby on Rails를 사용했습니다.

배포부터 부담이 컸습니다. webistrano와 ansible을 쓰는데 서버마다 배포 방식까지 달라, 새로 합류한 개발자는 절차를 익히면서 실수로 장애를 내지 않을까 걱정해야 했습니다. 배포할 때마다 헷갈리는 환경을 계속 유지하기는 어려웠습니다.

코드를 고치는 일도 편하지 않았습니다. 여러 개발자가 같은 저장소에서 브랜치를 만들고 작업하니 머지 순서에 따라 충돌이 났고, 잘못 머지한 코드가 장애로 이어지기도 했습니다. 오래 커진 코드에는 커플링이 많았습니다. 기능 하나를 바꾸려고 담당 영역 밖까지 손대야 했고, 변경의 여파가 걱정돼 새 기술을 적용하려는 의지도 꺾였습니다. 과거 기술에 묶여 라이브러리의 새 버전과 호환되지 않는 문제에, 높아진 메인 DB 트래픽까지 해결해야 했습니다.

팀이 원한 것은 작은 배포 단위, 명확한 담당 영역, 서비스에 맞는 기술을 고를 자유였습니다. 도메인을 중심으로 서비스를 나누고 독립적으로 개발·배포하는 MSA라면 이 요구에 맞으리라 기대했습니다. 배포 영향 범위와 브랜치 충돌을 줄이고, 서비스별로 리소스를 배분하는 것도 기대한 효과였습니다.

필자가 Martin Fowler의 이야기를 빌려 강조한 출발점은 현장조사였습니다. 해결할 문제를 정확히 알아야 현실에 맞는 설계를 고를 수 있다는 뜻입니다. 서비스 하나에 사람이 너무 많이 붙어 관리가 어렵거나, 기술 부채를 조금씩 고치거나, 모듈별 기술 선택의 자유도를 주려는 경우에는 MSA를 권했습니다. 배포 부담만 줄이고 싶다면 배포 환경부터 도입하는 선택을 제안했습니다.

YAML 복사에서 GitOps로 옮겨 간 배포 환경

서비스가 많아지면 배포할 대상도 늘어납니다. 클라우드의 인스턴스 할당 관리는 이 부담을 줄여 주고, MSA의 서비스별 리소스 할당은 자유로운 인스턴스 할당에 따른 낭비를 보완합니다. 팀이 기대한 운영상의 이점에는 이런 인프라의 뒷받침이 필요했습니다.

실제 전환에 불을 붙인 것은 Kubernetes였습니다. webistrano와 ansible은 클라우드에서도 쓸 수 있었지만, 원격 온프레미스 환경을 위한 도구여서 여러 장비에 배포하기가 편하지 않았습니다. 일부 서비스에서 먼저 사용하던 Kubernetes가 관리에 적합했고, 마침 조직의 전환 요구도 겹쳤습니다. 팀은 스터디로 사용법을 익혔고, 모든 서비스를 Kubernetes로 옮겼습니다.

옮긴 뒤에는 YAML이 문제였습니다. 서비스마다 설정이 생기고 Stage별로 비슷한 파일을 다시 만들면서, 말 그대로 복사해 붙이기의 향연이 벌어졌습니다. 스크립트로 YAML을 동적으로 생성하는 등 여러 시도 끝에 Kustomize를 도입했습니다. 설정을 디렉터리로 구분하고 재사용할 수 있게 되면서 관리가 간편해졌습니다.

CLI로 배포하던 환경에는 ArgoCD가 들어왔습니다. 새 이미지를 빌드해 d2hub에 저장하고 이미지 태그를 수정해 GitHub에 커밋하면, ArgoCD가 변경 사항을 UI에 표시합니다. ArgoUI에서 sync 버튼을 누르면 배포가 진행됩니다. Git 커밋으로 배포 이력도 관리하게 됐습니다.

화면에서 얻는 정보도 달라졌습니다. Jenkins의 블루오션에서는 텍스트 로그와 단계별 결과를 봤다면, ArgoUI에서는 파드마다 배포가 진행되는 모습을 한눈에 확인했습니다. 까만 화면을 보던 팀에는 새로운 경험이었고, 당시 모든 서비스를 ArgoCD로 관리하고 있었습니다.

레거시 앞에서 인증과 경로를 맡은 Spring Cloud Gateway

새 기능을 만들어 배포하기는 수월해졌습니다. 어려운 일은 따로 남아 있었습니다. 기존 이모티콘 서비스를 멈추지 않고, 그 안의 기능을 하나씩 분리해야 했습니다.

팀은 레거시 앞에 API Gateway를 두었습니다. 기존 서버를 뒤에 둔 채 path별로 라우팅을 전환하면서 기능을 새 서비스로 옮기는 방식입니다. 후보에는 Kong도 있었지만, 팀의 Spring 기술 스택과 제품 라인을 통일하기 수월한 Spring Cloud Gateway를 골랐습니다.

Ingress로도 라우팅은 가능했습니다. 그런데 팀이 Gateway에 맡기려던 일에는 인증 같은 비즈니스 로직도 있었습니다. 당시 Ingress 라우팅만 사용하면 서비스마다 인증 코드를 넣어야 했고, 인증 로직을 고칠 때 해당 서비스들을 모두 변경해야 했습니다. 서비스를 나누어 놓고도 독립 배포를 유지하기 어려워지는 상황입니다.

ingress controller를 직접 수정하는 선택지도 검토했습니다. 팀은 지속해서 유지 보수할 수 있는 기술 스택으로 해결하기 위해 Spring Cloud Gateway를 서비스 맨 앞에 두었습니다. 이 Gateway 뒤에서 레거시의 기능을 계속 분리해 나갔습니다.

함께 유지할 기술과 서비스의 경계

기술을 자유롭게 고를 수 있다는 기대에는 걱정도 따랐습니다. 서비스마다 기술 스택의 차이가 커지면 업무 공유나 인수인계가 어려워질 수 있었습니다. 관리할 서비스가 늘어나는 상황에서 구성원들이 감당할 범위도 고려해야 했습니다.

팀이 공통으로 선택한 기술은 Kubernetes, Kotlin, Spring이었습니다. Kotlin에는 서비스보다 작은 요청 단위에서 리소스를 효과적으로 활용할 수 있으리라는 기대가 있었고, Spring은 팀에 친숙한 프레임워크였습니다. 처음부터 한 번에 정한 조합은 아닙니다. 구성원들의 기술 관심사와 당시 상황을 고려하면서 자리 잡았고, 이후 마이크로 서비스도 가능한 이 범위 안에서 기술을 선택하기로 했습니다.

서비스의 크기는 더 어려운 문제였습니다. 어디까지를 하나의 마이크로 서비스로 볼지 완전히 합의하지는 못했지만, 최소한의 기준은 마련했습니다.

  • 기능 목적이 둘 이상이 되지 않도록 나눈다.
  • 여러 기능이 사용하는 단위 리소스는 별도 서비스로 분리해 공동으로 쓴다.
  • 사내 통제 대상인 Admin은 통제 Cluster에 들어가는 범위를 최소화하도록 분리한다.
  • 개인 정보 대상 데이터를 관리하는 서비스는 해당 데이터 관리에 필요한 기능을 최소화해 분리한다.
  • 서버 렌더링을 배제하기 위해 Front 서비스와 Backend 서비스를 나눈다.

이 경계에는 운영상의 불편도 반영돼 있습니다. 개인 정보 대상이 아닌 DB까지 함께 묶이면, DB를 확인할 때마다 망분리 환경에 들어가야 하는 일이 생깁니다. 기능의 목적만 보고 나누기에는 통제 조건도 서비스 경계에 영향을 줬습니다.

기준 없이 분리하면 불필요하게 서비스를 늘리거나 다시 덩치 큰 서비스를 만들 수 있습니다. 팀이 서비스 단위를 논의한 이유입니다.

데스스타 같은 연결 타래 앞의 Istio

서비스를 나눈 뒤에는 연결을 관리해야 했습니다. 처음 Kubernetes에 올렸을 때는 인프라만 바뀐 수준이라 복잡한 서비스 흐름이 없었습니다. 클러스터와 Stage를 구분하고 서비스까지 나누자 기본 Kubernetes 컨트롤러만으로 다루기 어려운 상황이 생겼습니다. 스타워즈의 데스스타처럼 얽힌 연결 그림이 팀의 미래가 될 수도 있었습니다.

이때 도입한 도구가 Istio입니다. 서비스 간 연결을 관리하는 서비스 메시 계층을 두고, VirtualService, ServiceEntry, Proxy 등으로 연결을 유연하게 다뤘습니다. Kiali에서는 서비스 상태와 연결 흐름을 눈으로 확인했습니다. Istio는 Prometheus와 오픈 트레이싱 도구를 연결하는 기능도 제공해 모니터링 도구를 고르는 고민을 줄여 줬습니다.

연결이 늘면서 설계에서 다룰 문제도 많아졌습니다. 함수 호출이 Network I/O 호출로 바뀌어 네트워크 오류, 트랜잭션, 서비스 간 상태 동기화를 고려해야 했습니다. DB를 분리하면 이전처럼 편하게 join하기도 어렵습니다. 팀은 도입 전에 이런 성능·설계상의 손해를 우려했고, 전환 뒤에도 분리된 DB와 네트워크 연결을 전제로 설계해야 했습니다.

배포 걱정이 줄어든 뒤의 운영 부담

서비스와 코드가 나뉘자 담당 영역은 명확해졌습니다. 개발자는 자신이 맡은 영역에 맞는 솔루션을 찾는 데 집중했고, 책임감과 기술 전문성도 높아졌습니다. 새 기능을 추가하거나 기존 코드를 수정하기가 수월해졌고, PR이 몰려 코드가 충돌하면서 rebase해야 하는 빈도도 많이 줄었습니다.

배포 부담도 낮아졌습니다. 다른 서비스의 코드가 섞여 들어갈 위험이 작아졌고, 장애가 나면 롤백하거나 다시 배포하기가 편해졌습니다. 통일된 인프라 덕분에 배포 절차도 간단해졌습니다. 유지 보수를 편하게 만드는 것이 설계의 중요한 목표였던 팀은 이 결과에 만족했습니다.

개인이 맡는 서비스 수는 늘었습니다. 서비스는 365일 24시간 운영하지만 담당자는 쉬어야 합니다. 유연하게 근무하려면 서비스별 백업 멤버가 있어야 하고, 인력 충원 없이 계속 나누는 데는 한계가 올 수 있습니다. 도메인 지식이 공유되지 않거나 기술 스택의 간극이 너무 크면 담당자는 고립된 채 혼자 책임지는 시간을 보내게 됩니다. 서비스 분리가 구성원의 번아웃으로 이어지지 않도록 고민해야 하는 이유였습니다.

필자는 전환이 수월했던 배경으로 팀 분위기도 꼽았습니다. 기존 환경의 불편을 어떻게든 개선하려는 구성원들이 Kubernetes에 빠르게 적응했고, 새 기술을 배우고 공유하려는 관심이 업무에 지치지 않는 데 영향을 줬다고 봤습니다.

완공까지 남은 성능과 리소스 과제

유지 보수 부담이 줄었다고 공사가 끝난 것은 아닙니다. 아직 분리하지 못한 레거시 기능이 남아 있었고, 네트워크로 나누면서 잃은 성능을 보상하는 방법도 찾아야 했습니다. 리소스를 더 효율적으로 쓰기 위한 비동기 방식의 도입 역시 남은 작업이었습니다.

팀은 앞으로 성능과 리소스 개선에 집중할 계획이었습니다. 이를 위해 Event Driven 설계의 적용과 gRPC, webflux-coroutine 사용을 확대하고, armeria 사용을 시도하고 있었습니다.

마지막 수정 일자