개인화 추천 시스템 1편 - 유저의 행동은 “언어”일까? : Collaborative Embedding 구축기 (feat. Knowledge Distillation)

개인화 추천 시스템의 새로운 언어 체계

• 컬리는 정보 과부하 해결을 위해 유저 행동을 '언어'로 해석하는 개인화 추천 시스템을 구축.
• 상품 속성을 Content Space, 유저 취향을 Collaborative Space로 분리하고, RQ-VAE를 통해 상품을 Semantic ID로 정의.
• 이 시스템은 Transformer의 문맥 이해와 Knowledge Distillation을 결합하여 정확도와 서빙 속도 트레이드오프를 개선.

Transformer 기반 Collaborative Embedding 및 지식 증류

• 유저 행동 시퀀스를 Transformer Encoder로 모델링하여 Collaborative Space 구축.
• 정확도와 속도를 위해 Generative Head와 Retrieval Head를 가진 Dual-Head Architecture 설계.
• Retrieval Head의 표현력 병목 현상을 Knowledge Distillation으로 해결하여 성능 격차를 줄임.
• Order Positional Encoding, 인기 편향 보정, Hard Negative Mining 등 데이터 엔지니어링 기법을 적용하여 모델 학습 효율 증대.

실험 및 성과

• 오프라인 평가에서 Knowledge Distillation 적용 시 베이스라인 대비 HR@10 약 66% 성능 향상.
• 온라인 A/B 테스트에서 '세일' 지면 장바구니 전환율 약 +32.2%, 유저당 매출 약 +44.9% 증가.
• CRM 캠페인 테스트에서 기존 룰베이스 대비 클릭률 약 +55.6% 향상.
• 이 모델은 고객 탐색 경험 개선 및 비즈니스 성과 향상에 크게 기여함을 검증.