비트윈의 멀티티어 아키텍처를 위한 프레젠터 이야기

간단 소개

비트윈은 ELB의 한계를 극복하고 채팅 시스템을 개선하기 위해 프레젠터를 도입, 성능 최적화 및 안정성을 확보했다.

AI Summary

프레젠터의 필요성 및 기능
- ELB의 한계 극복: PC 버전 및 자체 푸시 서버 지원을 위해 ELB를 대체할 게이트웨이 필요.
- 패킷 중계: 커플 단위 샤딩 환경에서 적절한 채팅 서버로 패킷을 중계하여 클라이언트의 복잡성 감소.
- 연결 유지: TCP Multiplexing을 통해 많은 수의 연결을 안정적으로 유지하고, SSL Handshaking 성능 최적화.
프레젠터 구현 및 기술적 결정
- C++ 모듈: 성능을 위해 C++로 연결 유지 모듈을 구현하고, OpenSSL, libevent, folly 라이브러리 활용.
- 릴레이 로직: 인증 패킷 파싱 후 단순 릴레이 방식으로 구현하여 채팅 서버 API 변경에 대한 의존성 감소.
- Multiplexing Protocol: Thrift를 이용하여 정의하고, Alfred RPC 라이브러리에 구현하여 C++과 Java 간 통신.
로드 밸런싱 및 스케일링
- 로드 밸런싱: Route53의 Weighted Routing Policy를 이용하여 연결 개수와 CPU 사용량을 고려한 로드 분산.
- 스케일링: AutoScaling Group의 LifeCycleHook을 이용하여 안전한 스케일 인/아웃 구현.