대용량 트래픽을 견디는 서버 만들기 — Rust 기반 게이트웨이 구축

간단 소개

Node.js 기반 게이트웨이의 대량 트래픽 문제를 Rust 기반 Apollo Router로 해결하고 성능을 개선한 여정을 담고 있습니다.

AI Summary

문제 상황 및 기존 시도
- Node.js 기반 Apollo Gateway 사용 중, 대량 트래픽에 취약하여 서버 다운 빈번.
- 슬기사태로 인한 트래픽 폭증, 크롤러/봇의 대량 요청으로 문제 발생.
- WAF 도입 검토, 성능 최적화 TFT 구성, Lambda 기반 게이트웨이 구축 시도 (콜드 스타트, 쿠키 이슈로 실패).
Rust 기반 게이트웨이 구축
- Apollo Router(Rust) 도입 결정, 멀티 스레드 기반으로 CPU 고갈 문제 해결 시도.
- 기존 subgraph 서버와의 통신, Dockerize 가능성 검증 (POC).
- Apollo Server v3 -> v4 버전 업그레이드 (스키마 호환성 문제 해결).
구현 및 결과
- router.yaml 설정을 통한 게이트웨이 기본 설정, rhai script를 이용한 header/cookie 조작.
- Redis, ElasticSearch 연결 및 통신 구축 (lazy_static, Arc, RwLock, Mutex 활용).
- 벤치마킹 결과, Rust Gateway가 Node.js 대비 압도적인 성능 향상 (처리량, 처리 시간).
- 배포 후 레이턴시 감소, CPU/메모리 사용률 감소, 트래픽 스파이크에도 안정적인 서버 유지.