카카오게임즈의 Amazon Bedrock 기반 실시간 채팅 번역 구축

간단 소개

카카오게임즈는 Amazon Bedrock 기반으로 실시간 채팅 번역 시스템을 구축하여 글로벌 게임 서비스를 지원하고, GenAI와 프롬프트 엔지니어링을 통해 성능을 개선했습니다.

AI Summary

카카오게임즈의 실시간 채팅 번역 시스템 구축
- Amazon Bedrock 기반으로 구축, GenAI 활용
- MMORPG '오딘:글로벌'의 글로벌 서비스 지원
- 언어 장벽 해소 및 게임 특화 표현 번역 목표
GenAI 도입 및 아키텍처
- 기존 번역 솔루션의 한계 극복 (게임 용어, 자연스러움)
- Amazon Bedrock의 간편함과 빠른 구축 속도 활용
- Anthropic Claude 3.5 Haiku 모델 선택 (응답 속도)
- 프롬프트 엔지니어링, 프롬프트 캐싱, 단어장 활용
- RAG (Retrieval-Augmented Generation) 대신 프롬프트 최적화
성능 개선 및 향후 계획
- 프롬프트 엔지니어링 및 캐싱을 통해 번역 품질 및 속도 개선
- AWS 서비스와의 높은 호환성으로 빠른 시스템 구축
- SLM(Small Language Model)을 활용한 초저지연 시간 번역 시스템 고려