리디 추천 시스템, MLOps Platform에 올라탈 결심

간단 소개

리디는 추천 시스템을 고도화하기 위해 MLOps 플랫폼을 도입, 개발 효율성을 높이고 실시간 추론을 통해 사용자 경험을 개선하고자 한다.

AI Summary

리디 추천 시스템 발전 과정
- 2022년: 딥러닝 기반으로 전환하여 추천 서비스 품질 향상
- 2023년: Feature Store 구축으로 데이터 품질 향상 및 신규 모델 릴리스 가속화
MLOps Platform 도입 및 효과
- SageMaker 도입으로 개발 도구 간소화 및 비용 절감
- SageMaker Model Registry를 통해 모델 버전 관리 및 가시성 확보
- 학습과 추론 분리 및 롤백 자동화로 시스템 유연성 및 안정성 향상
- Triton Inference Server와 TensorRT를 활용한 실시간 추론 도입 검토
향후 과제
- Bloom filter를 활용한 Filtering & Reranking으로 사용자 경험 개선
- Vector Search를 통한 사용자-아이템 간 관련성 측정 및 활용
- 다양한 추천 모델 및 도구 검토를 통한 추천 시스템 고도화