토
토스
January 9, 20262회
수천 개의 API/BATCH 서버를 하나의 설정 체계로 관리하기

간단 소개
토스페이먼츠가 수천 개의 API/BATCH 서버 설정을 오버레이 아키텍처, 템플릿 패턴, 선언형 Job-DSL, 동적 프로비저닝으로 관리하며 인프라 장애를 방지하고 개발자 경험을 개선한 과정을 설명합니다.
AI Summary
- API 서버 설정 관리 혁신
- 수천 개의 API 서버 설정 중복으로 인한 인프라 장애 위험을 해결.
- 오버레이 아키텍처를 통해 설정값을 계층화하여 조합 및 우선순위 관리 (global, cluster, phase, app).
- 템플릿 패턴 도입으로 긴 문자열 설정 내 특정 값만 동적으로 변경 가능 (예: JVM_OPTION의 Heap 메모리).
- 설정 파일 내 Python 스크립트 주입 및 조건부 값 적용으로 동적이고 유연한 설정 관리.
- 배치 서버 설정 및 인프라 개선
- 수조 원 규모의 정산을 다루는 배치 서버에 단순하고 강력한 인프라 필요성 강조.
- Jenkins Job-DSL 플러그인 어댑터를 구현하여 개발자의 반복 작업 제거 및 선언형 배치 설정 가능.
- Dynamic Provisioning 인프라 도입으로 배치 실행 시 전용 노드를 동적으로 할당, 메모리 부족 문제 해결 및 비용 효율성 확보.
- 설정 테스트를 통해 배포 안정성 강화 및 잘못된 설정의 운영 환경 적용 방지.
- 설정 체계의 진화와 개발자 경험
- API 및 배치 설정 모두 **'진화'**하는 구조가 핵심이며, 설정도 코드 개발처럼 설계.
- 개발자는 애플리케이션 로직에 집중하고, DevOps는 단일 업무 인터페이스를 통해 효율적으로 인프라 관리.
- 새로운 인프라 요구사항에 유연하게 적응하고, JDK 버전 변경이나 APM 연동 등 대규모 작업도 신속하게 처리 가능.
Next Feeds
하이퍼엑셀(HyperAccel), Amazon EC2 F2 Instance 기반 LPU로 고효율 LLM 추론 서비스 구축
하이퍼엑셀이 AWS EC2 F2 인스턴스 기반 LPU로 LLM 추론 서비스의 효율성과 비용을 혁신하고 PoC 환경을 개선한 사례.
LPULLM 추론Amazon EC2 F2 인스턴스FPGAAWS Marketplace
2026. 1. 9.
AWS

연관 키워드 추천
여기어때는 데이터 특성에 맞는 Word2Vec과 하이브리드 파이프라인으로 연관 키워드 추천 시스템을 구축했다.
연관 키워드 추천Word2Vec적정 기술Initialization ProblemCo-occurrence Filtering
2026. 1. 9.
여기어때

전시 동적필터 리팩토링
여기어때 동적 필터의 복잡한 기존 구조를 정책과 생성 흐름 분리, 전략 패턴 적용으로 리팩토링하여 확장성과 유지보수성을 개선한 과정.
동적 필터리팩토링전략 패턴QuickFilterStrategyQuickFilterBuilder
2026. 1. 9.
여기어때

당근의 사용자 행동 로그 관리 플랫폼: 이벤트센터 개발기
당근은 사용자 행동 로그 관리의 비효율성을 해결하기 위해 UI 기반 플랫폼 '이벤트센터'를 개발하여 전사 로그 체계를 표준화하고 개발 생산성을 높였습니다.
사용자 행동 로그이벤트센터로그 관리 플랫폼스키마 관리데이터 파이프라인
2026. 1. 8.
당근

알라미 데이터 밋업: Wake Up with Data 참가 신청을 받습니다.
딜라이트룸이 알라미, 다로 서비스의 데이터 활용 사례, 분석 환경, 조직 문화를 공유하는 첫 오프라인 데이터 밋업.
알라미딜라이트룸데이터 밋업데이터 분석글로벌 스타트업
2026. 1. 8.
딜라이트룸

AWS Marketplace SaaS Listing Bootcamp 신청 안내
교보DTS가 AWS Marketplace 3PI 파트너로서 SaaS Listing Bootcamp를 통해 기업들의 글로벌 SaaS 판매 및 AWS Marketplace 등록을 지원한다.
AWS MarketplaceSaaS교보DTS부트캠프3PI 파트너
2026. 1. 8.
교보dts