MinIO 도입기— HA 이해 및 DR 전략 구성

간단 소개

네이버 G플레이스AI개발팀의 MinIO 도입 과정, HA 구성, DR 전략 구축 및 검증 내용을 담고 있습니다.

AI Summary

MinIO 도입 배경 및 문제 정의
- 네이버 G플레이스AI개발팀은 ML 학습 및 모델 서빙에 필요한 데이터 아카이빙을 위해 MinIO를 도입. 기존 Cephfs 사용의 문제점을 해결하고 데이터 유실 방지를 위한 스토리지 필요.
- 데이터 중요도에 따라 학습, 서빙, CI/CD 관련 데이터셋을 정의하고, 공통 스토리지로 분산 S3 Object Storage를 구축.
- HA(고가용성), Failover 이해 및 백업 필요성이 제기됨.
문제 해결 및 검증
- 장애 레벨을 정의 (드라이브, 노드, IDC)하고, 데이터 유실 최소화를 목표로 함. 서비스 영향성에 따른 DR(재해 복구) 플랜을 설정하고, 원본 데이터 백업을 결정.
- Erasure Coding 이해 및 HA 점검을 위해 서버 failure, 드라이브 failover 시나리오를 테스트. Scale Up/Out을 통한 확장성 점검.
구축 및 결과
- HDFS distcp를 이용한 MinIO에서 HDFS로의 백업/복구 시스템 구축. Airflow를 이용한 스케줄링 및 우선순위 관리.
- RTO(복구 목표 시간)/**RPO(복구 목표 시점)**를 정의하고 성능 측정. 장애 상황에 따른 대응 방법 메뉴얼 작성.