Kurly만의 MLOps 구축하기 - 쿠브플로우 도입기

간단 소개

컬리 데이터 플랫폼팀의 쿠브플로우 도입 및 구축 과정, 세이지 메이커와의 비교, 그리고 쿠브플로우 커스터마이징 팁을 공유합니다.

AI Summary

쿠브플로우 도입 배경
- 데이터 사이언티스트들이 모델 연구 및 실험에 집중할 수 있는 추상화된 환경 필요
- 기존 인프라(Jupyterhub, MLFlow, Airflow)의 복잡성 증가 및 낮은 연결성 문제
- 자체 플랫폼 구축 대신 잘 패키징된 MLOps 서비스 도입 결정
쿠브플로우 vs 세이지 메이커
- 세이지 메이커는 AWS 리소스와 통합 용이, 다양한 컴포넌트 제공, 벤더 락인 및 비용 문제 존재
- 쿠브플로우는 이식성이 높고, 쿠버네티스 환경에 적합, 기술 내재화에 유리
- 컬리는 쿠버네티스 적극 활용, 쿠브플로우의 부족한 부분은 자체 개발/오픈 소스 활용으로 극복 가능하다고 판단
쿠브플로우 커스터마이징
- Elyra를 도입하여 KFP DAG 생성 과정 추상화, 도커 이미지 드롭다운 목록 제공
- KFP 기본 저장소를 MinIO에서 S3로 변경, IRSA 적용하여 보안 강화
- SealedSecrets를 도입하여 Secret 정보 암호화, pre-commit 깃훅으로 Secret 커밋 방지