한계에 도달한 전시 서버, 그리고 우리의 해답

전시 서버 한계 및 전략

• 11번가 전시 API 서버는 트래픽 증가와 Scale-out 한계에 직면, 비용 효율 및 안정성 확보 필요.
• 인프라팀의 Scale-up/Scale-in과 개발팀의 애플리케이션 튜닝 협업 전략 수립.

주요 성능 개선

• MongoDB 커넥션 재생성으로 인한 주기적 CPU Spike를 maxConnectionIdleTime 분산으로 해결.
• 지연 트랜잭션 감소를 위해 커넥션 풀 확충, 재시도 기능 비활성화, 대량 조회 분할로 command 부하 완화.
• 로컬 캐시 최적화, 캐시키 정렬, 대량 데이터 호출 로직 개선 등으로 리소스 관리 및 API 성능 향상.

최종 성과 및 교훈

• MAX TPS 65.9K에서 87.9K로 증가, 서버 110대에서 70대로 축소 운영 성공.
• 인프라-개발팀 협업과 문제 정의-검증 방식이 핵심, 시스템 깊은 이해의 중요성 강조.