수천 개의 API/BATCH 서버를 하나의 설정 체계로 관리하기

간단 소개

토스페이먼츠가 수천 개의 API/BATCH 서버 설정을 오버레이 아키텍처, 템플릿 패턴, 선언형 Job-DSL, 동적 프로비저닝으로 관리하며 인프라 장애를 방지하고 개발자 경험을 개선한 과정을 설명합니다.

AI Summary

API 서버 설정 관리 혁신
- 수천 개의 API 서버 설정 중복으로 인한 인프라 장애 위험을 해결.
- 오버레이 아키텍처를 통해 설정값을 계층화하여 조합 및 우선순위 관리 (global, cluster, phase, app).
- 템플릿 패턴 도입으로 긴 문자열 설정 내 특정 값만 동적으로 변경 가능 (예: JVM_OPTION의 Heap 메모리).
- 설정 파일 내 Python 스크립트 주입 및 조건부 값 적용으로 동적이고 유연한 설정 관리.
배치 서버 설정 및 인프라 개선
- 수조 원 규모의 정산을 다루는 배치 서버에 단순하고 강력한 인프라 필요성 강조.
- Jenkins Job-DSL 플러그인 어댑터를 구현하여 개발자의 반복 작업 제거 및 선언형 배치 설정 가능.
- Dynamic Provisioning 인프라 도입으로 배치 실행 시 전용 노드를 동적으로 할당, 메모리 부족 문제 해결 및 비용 효율성 확보.
- 설정 테스트를 통해 배포 안정성 강화 및 잘못된 설정의 운영 환경 적용 방지.
설정 체계의 진화와 개발자 경험
- API 및 배치 설정 모두 **'진화'**하는 구조가 핵심이며, 설정도 코드 개발처럼 설계.
- 개발자는 애플리케이션 로직에 집중하고, DevOps는 단일 업무 인터페이스를 통해 효율적으로 인프라 관리.
- 새로운 인프라 요구사항에 유연하게 적응하고, JDK 버전 변경이나 APM 연동 등 대규모 작업도 신속하게 처리 가능.