SRE 3.0 - AI가 바꾸는 장애 대응·신뢰성·운영 패러다임

간단 소개

AI 시대에 SRE는 AI와 협력하여 시스템 신뢰성을 높이고, 장애 대응 패러다임을 전환하며, 운영 효율성을 극대화하고 있습니다.

AI Summary

AI 시대 SRE의 진화
- SRE는 가용성 중심에서 자동화를 거쳐 AI 신뢰성 시대로 진화하고 있으며, AI의 예측 불가능성으로 인해 신뢰성 기준이 더욱 엄격해지고 있음.
- 전통적인 신뢰성은 속도와 안정성이 중요했지만, AI 시대에는 AI 판단의 정확성과 일관성이 핵심 척도가 됨.
AI 신뢰성 확보 사례: 메르카리
- 메르카리는 AI 기반 상품 정보 요약 시스템에서 정보 누락 및 환각 현상 문제를 겪었으나, DeepEval을 활용한 AI 자동 평가 시스템을 구축하여 해결함.
- 요약 AI를 평가하는 AI를 통해 관련성, 정확성, 환각 여부를 평가하고, 기준 미달 시 경고 또는 롤백하여 서비스 품질을 향상시킴.
AI 기반 SRE의 발전 및 한계
- AIOps는 장애 예측, 알람 통합, 자연어 인터페이스를 통해 MTTR 단축 및 SLO 준수에 기여하며, 메르카리의 IBIS는 과거 사고 데이터를 활용하여 장애 대응 시간을 단축함.
- AI는 실수를 할 수 있고, 비즈니스 판단은 인간의 몫이므로, 인간과 AI의 협업 모델을 통해 AI의 속도와 인간의 통찰력을 결합하는 것이 중요함.