본문으로 건너뛰기
Metaflow Spin으로 줄이는 ML·AI 반복 개발의 대기 시간
목차

Metaflow Spin으로 줄이는 ML·AI 반복 개발의 대기 시간 (2025-11)

원문 정보

노트북 셀에 남아 있는 상태

ML·AI 개발에서는 코드뿐 아니라 크고 계속 바뀌며 처리 비용도 높은 데이터와 모델을 다룹니다. 데이터 변환과 모델 학습부터 오래 걸립니다. 실행마다 결과가 조금씩 달라지는 확률적 과정까지 있으므로, 앞서 만든 상태를 유지하면서 조금씩 실험을 이어 가는 일이 개발 속도에 영향을 줍니다.

Jupyter, Observable, Marimo 같은 노트북이 강한 지점입니다. 데이터셋을 메모리에 한 번 올려 두면 다시 불러오지 않고 탐색·변환·시각화를 이어 갑니다. 셀 하나를 고쳐 돌릴 때도 앞서 준비한 데이터를 그대로 쓰므로 피드백이 거의 즉각적입니다. 이런 반복 경험을 만들려면 상태 관리를 도구 설계의 중심에 두어야 합니다.

Netflix가 2019년에 시작해 오픈소스로 공개한 Metaflow는 Netflix 안팎에서 ML·AI 워크플로를 프로토타입부터 프로덕션까지 이어 주고 있습니다. 빠르게 실험하고 배포하는 경험과 Netflix 규모에서 적은 오버헤드로 안정적으로 운영하는 경험을 함께 지향합니다. Metaflow 2.19에 들어간 Spin은 그중 코드를 고치고 결과를 확인하는 시간을 줄이는 기능입니다. 노트북에서 셀 하나를 다시 실행하듯, 워크플로에서도 스텝 하나만 빠르게 돌립니다.

부모 스텝의 상태로 출발하는 Spin

Metaflow 코드는 Airflow식 워크플로로 보이지만, 각 @step은 실행 순서를 나누는 지점이면서 상태를 저장하는 체크포인트입니다. 스텝이 끝나면 모든 인스턴스 변수를 아티팩트로 저장합니다. 이후에는 그 상태를 불러와 실행을 이어 갈 수 있습니다.

상태를 갱신하는 가장 작은 실행 단위라는 점에서 스텝은 노트북 셀과 닮았습니다. 차이는 상태와 순서를 다루는 방식에 있습니다. Metaflow에서는 실행 순서가 명시적이고 결정적이어서 셀을 뒤섞어 실행했을 때 생기는 뜻밖의 결과를 피합니다. 상태도 숨겨져 있지 않습니다. self 변수에 명시적으로 저장되어 찾아보고 검사할 수 있으며, 버전과 함께 보존되므로 결과를 재현하기도 더 쉽습니다.

기존 resume도 이 체크포인트를 활용합니다. 그러나 선택한 스텝부터 뒤따르는 스텝까지 다시 실행하기 때문에, 수정한 스텝 하나의 결과를 확인하는 반복에서는 노트북보다 기다림이 길어집니다. spin은 실행 범위를 한 스텝으로 좁힙니다. 부모 스텝에서 넘어온 상태를 그대로 받아 @step 하나만 실행하는 방식입니다.

기록을 남기는 범위도 다릅니다. run과 resume은 메타데이터와 아티팩트를 갖춘 전체 실행을 만들고 버전을 관리합니다. spin은 실행 추적을 건너뛰며, 개발 중 잠깐 시험하고 버릴 반복에 맞춰져 있습니다. 전체 실행을 기록하는 작업과 스텝 하나를 빠르게 확인하는 작업에 서로 다른 명령을 쓰는 이유입니다.

Parquet 데이터셋에서 시작한 학습 플로

실제 개발에서는 run과 spin을 번갈아 씁니다. 원문의 1분짜리 영상은 Parquet 데이터셋을 읽어 상품 카테고리마다 모델을 따로 학습하는 플로를 만드는 과정입니다. 컴퓨터 관련 카테고리를 대상으로, 처음에는 최소한의 플로만 작성합니다. 이를 run으로 실행해 테스트에 쓸 Parquet 데이터셋을 아티팩트로 남긴 뒤, spin으로 스텝을 하나씩 시험하며 병렬 학습 부분까지 만들어 갑니다.

로컬에서 반복을 마친 플로는 Maestro나 Argo 같은 프로덕션 오케스트레이터에 배포하고 AWS Batch, Titus, Kubernetes 등에서 확장할 수 있습니다. 노트북처럼 매끄럽게 실험하면서도 결과물은 일반적인 Python 프로젝트로 남습니다. 그 프로젝트가 곧 프로덕션에 배포해 확장할 워크플로입니다.

안정적인 운영은 Metaflow와 검증된 도구들이 함께 담당합니다. 그중 당시 새로 오픈소스로 공개한 Maestro는 Netflix의 거의 모든 ML·AI 시스템을 구동하며 Metaflow 자체도 뒷받침하는 워크플로 오케스트레이터입니다. Spin의 자리는 이 운영 체계 안에서 모델과 비즈니스 로직을 고치고 확인하는 가장 안쪽 반복입니다. 배포 과정에서 개별 스텝을 단위 테스트하는 데도 쓰입니다.

플랫폼을 각 팀에 맞추는 기능들도 이 반복과 연결됩니다. 지난 한 해 집중한 Shared Functionality에는 설정 관리와 커스텀 데코레이터가 포함됩니다. 도메인 팀과 플랫폼 제공자가 Metaflow를 자기 환경에 맞게 조정하는 기능이며, 서로 조합할 수 있도록 설계되어 Spin과도 함께 작동합니다. 작은 프로젝트를 pip install metaflow로 시작하고 필요할 때 복잡성을 더한다는 방향입니다. 개발 주기를 줄여 구독자에게 즐거움을 더 빨리 전하는 일은 Spin 하나의 마법 같은 기능보다, 이런 플랫폼의 각 부분이 함께 작동하는 데 달려 있습니다.

VS Code·Cursor에서 바로 보는 Metaflow Cards

스텝을 고칠 때마다 터미널로 옮겨 갈 필요도 없습니다. Cursor에서도 동작하는 metaflow-dev VS Code 확장은 Ctrl+Opt+R에 run, Ctrl+Opt+S에 spin을 연결합니다. 코드를 수정하고 Ctrl+Opt+S를 누르면 파일을 저장한 뒤 현재 편집 중인 스텝을 실행합니다.

이 짧은 반복은 Metaflow Cards로 미니 대시보드나 리포트를 만들 때 특히 유용합니다. 카드 개발은 웹 페이지를 만드는 작업과 닮았습니다. 코드를 고치고 화면을 보며 다시 손봐야 합니다. VS Code·Cursor의 내장 웹뷰에 로컬 카드 뷰어를 연결하고 spin으로 스텝을 실행하면, 수정한 시각화의 결과를 바로 확인합니다. 원문의 두 번째 영상은 앞서 만든 train 스텝에 이런 관측 기능을 추가하는 모습입니다.

Cards로 만든 관측 기능에는 별도의 서비스나 데이터 스트림, 데이터베이스가 필요하지 않습니다. 플로를 배포하면 리포트와 시각화도 함께 배포됩니다. 로컬에서 학습 결과를 보며 다듬은 카드가 프로덕션에서도 플로와 함께 남는 방식입니다.

과거 실행과 새 입력을 오가는 단위 테스트

spin의 입력은 바로 앞에서 실행한 결과로 제한되지 않습니다. 과거 어떤 실행의 상태든 선택해 임의의 스텝을 돌릴 수 있습니다. 예를 들어 실행마다 다른 모델을 가져와 같은 추론 스텝에 넣어 보는 식입니다. 노트북의 현재 메모리에 있는 상태에 기대지 않고, 보존된 실행 중에서 시험할 입력을 고릅니다.

저장된 값도 바꿔 넣습니다. ARTIFACTS 딕셔너리가 든 Python 모듈을 만들고 spin train --artifacts-module artifacts.py로 지정하면 아티팩트 값을 덮어쓰거나 임의의 Python 객체를 주입할 수 있습니다. 원문의 예시는 model에 "kmeans", k에 15를 지정합니다. 같은 스텝을 다른 입력으로 시험할 때 쓰는 방법입니다.

출력은 기본적으로 저장하지 않습니다. 결과를 검사하려면 --persist를 붙입니다. 이때 아티팩트는 일반 Metaflow 데이터 저장소 대신 디렉터리별로 구분된 위치에 저장되므로 실험이 끝난 뒤 쉽게 정리할 수 있습니다. Client API에서는 먼저 inspect_spin(".")으로 디렉터리를 지정하고, Flow("TrainingFlow").latest_run["train"].task["model"].data처럼 결과를 읽습니다.

입력을 정하고 출력을 검사할 수 있으므로 스텝 하나를 단위 테스트하는 데도 적합합니다. Runner API의 Runner("flow.py").spin("train", persist=True)로 프로그램에서 실행한 뒤 spin.task["model"].data를 assert로 검사하는 방식입니다. 빠른 수동 실험에 쓰던 실행 단위를 테스트에서도 그대로 활용합니다.

45초 무렵 오류를 만난 Claude Code

코딩 에이전트도 짧은 반복에서 이익을 얻습니다. 빠른 도구로 개발 시간을 줄이고, 오류가 난 코드 조각을 더 빨리 특정하면 스스로 수정할 가능성도 커집니다. 하지만 에이전트가 무엇이 느리고 왜 속도가 중요한지 저절로 아는 것은 아닙니다. 사용할 도구와 절차를 알려 주어야 합니다.

Metaflow 사용자는 이미 Claude Code를 쓰고 있었습니다. 저자들은 CLAUDE.md에 “Developing Metaflow code” 절을 추가해 플로를 점진적으로 만들도록 안내했습니다. 빈 @step으로 골격을 만든 다음 데이터 로딩 스텝을 채우고, 먼저 run으로 실행합니다. 다음 스텝을 구현할 때는 올바른 입력을 가져와 spin으로 시험합니다. 동작을 확인하면 다시 run으로 출력을 기록하고, 다음 스텝에서도 같은 과정을 반복합니다. 모든 스텝을 완성한 뒤에는 전체 플로를 실행해 최종적으로 검증합니다.

명령도 구체적으로 적었습니다. spin을 쓰기 전에 python flow.py --environment=pypi run을 한 번 실행하고, 이후 python flow.py --environment=pypi spin train으로 개별 스텝을 시험하도록 했습니다. 이 지침만으로 에이전트는 spin을 효과적으로 사용했습니다.

상품 카테고리를 예측하는 분류기 학습 플로를 한 번에 만드는 시연에서 그 효과가 드러납니다. 약 45초 지점에 Claude가 preprocess 스텝을 spin으로 실행하다 오류를 만납니다. 테스트용으로 데이터를 소량만 샘플링하면서 일부 클래스의 표본이 부족해진, 흔한 함정이었습니다. 첫 spin에서 문제를 발견한 Claude는 층화 샘플링으로 코드를 바꾸고 다시 spin으로 확인한 뒤 작업을 이어 갑니다.

원문의 주요 명령과 설정
항목값
기능 도입 버전Metaflow 2.19
Metaflow 시작2019년 (오픈소스)
run, resume메타데이터와 아티팩트가 있는 버전 관리 실행 생성
spin추적 없음, 부모 스텝의 상태로 스텝 하나만 실행
VS Code 확장 단축키metaflow-dev: Ctrl+Opt+R run, Ctrl+Opt+S spin
아티팩트 주입spin train --artifacts-module artifacts.py (ARTIFACTS 딕셔너리)
아티팩트 저장--persist, 디렉터리 단위 위치에 저장, inspect_spin으로 조회
단위 테스트Runner API의 spin("train", persist=True)
프로덕션 배포 대상Maestro, Argo / 실행 환경 AWS Batch, Titus, Kubernetes
마지막 수정 일자