AI Agents in Production: Lessons from Rippling and LangChain
- Rippling의 AI 여정은 콘텐츠 요약에서 시작하여 Talent Signal 같은 독립형 AI 제품을 거쳐, 이제는 관리자를 위한 시스템 분석가 역할을 하는 복잡한 AI 에이전트로 발전했습니다. 🚀
- Rippling은 HR, 급여, 복리후생, IT(신원 및 장치 관리), 재무(법인 카드, 여행, 경비)를 아우르는 포괄적인 통합 솔루션을 제공합니다. 💼
- AI 혁신은 해커톤을 통한 현장 중심의 아이디어(150개 AI 프로젝트 중 50개 완료)와 IT, 재무, 글로벌 확장 등 전략적 영역에서의 상향식 추진이 결합되어 이루어집니다. 💡
- 중앙 AI 팀은 데이터 레이어, LangChain 기반 에이전트 레이어, 평가 시스템 등 핵심 기반 기술을 구축하고, 제품 팀이 신속하게 혁신할 수 있는 '포장된 경로'를 제공하며, 복잡한 솔루션은 공동 개발합니다. 🏗️
- AI 에이전트를 실제 서비스에 적용하는 가장 어려운 점은 실험 실패를 수용하고, 실제 프로덕션 데이터로 검증하며, 실제 사용자로부터 초기 피드백을 받는 강력한 루프를 구축하는 것입니다. 🚧
- Rippling은 '도그푸딩(dogfooding)'을 통해 초기 알파 버전을 CEO를 포함한 모든 직원에게 배포하여 즉각적이고 솔직한 피드백을 수집하는 것을 중요하게 생각합니다. 🐶
- LangSmith와 같은 도구는 프로덕션 환경에서 에이전트의 동작을 추적하고 디버깅하는 데 필수적이며, LLM 성능, 라우팅 로직, 사용자 로케일에 따른 날짜 형식 지정 문제 등을 파악하는 데 도움을 줍니다. 🛠️
- 단순한 AI 기능(예: 면접 요약)은 프로토타입 제작이 쉽지만, 진정으로 유용하게 만들려면 많은 반복이 필요하며, 에이전트는 첫 단계부터 복잡하여 합리적인 답변을 얻기 위해 더 많은 반복적 노력이 요구됩니다. 🧠
- Rippling은 OpenAI, Anthropic, Google과 같은 주요 LLM 제공업체와 엔터프라이즈 계약을 맺고 LangChain과 같은 기술 파트너십을 통해 최신 AI 도구에 대한 접근성을 확보합니다. 🤝
- 회사는 150명의 제품 팀 리더들이 독립적으로 혁신할 수 있도록 지원하는 '창업자 우선' 문화를 가지고 있으며, 중앙 AI 팀이 제공하는 기반 기술이 이를 뒷받침합니다. 🌟
데브허브 | DEVHUB | AI Agents in Production: Lessons from Rippling and LangChain