당근의 GenAI 플랫폼

당근 GenAI 플랫폼 개요 및 LLM Router

• 당근은 AI 활용 확대를 위해 LLM Router, Prompt Studio, KarrotChat 플랫폼을 구축, LLM 도입 초기 문제 해결.
• LLM Router는 모든 AI API 호출을 하나의 **관문(Gateway)**으로 통합, 계정 및 API 키 중앙 관리, OpenAI 인터페이스 표준화로 개발 및 운영 효율 증대.

Prompt Studio: AI 기능 개발 및 안정화 허브

• 웹 기반 플랫폼으로 비개발자도 프롬프트 테스트, 모델 비교, AI 기능 개발 및 배포 가능하며, Evaluation 및 다단계 안전 장치로 AI API 안정성 확보.
• 텍스트, 이미지, 비디오 등 다양한 GenAI 모델 및 Agent 구성 기능(MCP 허브) 제공.

KarrotChat: 사내 AI/Agent 활용 촉진

• Prompt Studio에서 생성된 Agent와 AI 모델을 사용하는 사내 ChatGPT 형태의 채팅 플랫폼.
• 데이터캣 사례처럼 SQL 지식 없이도 데이터 기반 의사결정 가능한 Agent 활용으로 생산성 향상.