Debezium MSK Connect로 Failover 구현하여 서비스 안정성 높이기

간단 소개

Debezium MSK Connect를 활용한 Failover 구현으로 서비스 안정성을 높이고 장애 발생 시 데이터 정합성을 유지하는 방법을 제시합니다.

AI Summary

Debezium MSK Connect를 활용한 Failover 구현
- MSK 시스템의 안정성 확보를 위해 모니터링은 필수적이며, Connector 이상 발생 시 Topic Heartbeat 기능을 활용하여 Slack으로 알람을 발송하고 온콜 시스템을 가동한다.
- Connector가 정상 작동하지 않을 경우, Offset을 사용해 복구하거나, 신규 Connector 생성 시 서비스 로직에서 기존 토픽의 데이터를 재발행하여 데이터 보정을 수행한다.
Failover 시나리오 및 조치 사항
- Failover는 시스템 장애 시 자동으로 대체하여 서비스 연속성을 유지하는 기술로, 서비스 중단 최소화, 데이터 손실 방지, 고객 신뢰성 유지를 목표로 한다.
- Failover 발생 시, Custom plugin, Connector properties (snapshot.select.statement.overrides), Worker configuration 등을 설정하여 데이터를 처리하고, op='r' 상태의 데이터를 op='f' 상태로 변환하여 변경된 필드를 기반으로 로직을 처리한다.
Failover 로직 AOP 공통화
- Failover 이벤트와 충돌 없이 API를 호출하기 위해 AOP를 활용하여 개발하고, Failover 어노테이션을 정의하여 해당 서비스가 Failover 대상인지 체크하여 동작하도록 설정한다.