티로의 Amazon Bedrock과 RDS를 활용한 대화 기록 기반 Ask Tiro 구현

간단 소개

Amazon Bedrock과 RDS를 활용하여 대화 기록 기반 질의응답 시스템 Ask Tiro를 구현하고, 그 아키텍처와 활용 사례를 소개합니다.

AI Summary

Ask Tiro 소개 및 배경
- 티로는 회의, 강의 등 대화 기록에서 필요한 정보를 빠르게 찾는 어려움을 해결하고자 함
- Amazon Bedrock과 RDS for PostgreSQL을 활용하여 자연어 질의응답 기능인 Ask Tiro를 구현
Ask Tiro 아키텍처 및 구현
- Amazon Bedrock을 핵심으로 다양한 AWS 서비스 활용, 특히 Claude 4.0 Sonnet 모델을 채택하여 쿼리 및 응답 생성 성능을 높임
- RAG(Retrieval-Augmented Generation) 기술을 통해 폴더 기반 검색, 벡터 검색, 답변 생성 과정을 거침
- Amazon RDS for PostgreSQL은 pgvector 확장과 HNSW 인덱스를 통해 고성능 벡터 검색을 지원
Amazon Bedrock 도입 이유 및 활용 사례
- 다국어 지원 능력과 기존 AWS 인프라와의 연동성이 주요 결정 요인
- 쿼리 의도 분석, 다중 쿼리 생성, 컨텍스트 기반 답변 생성 등 Ask Tiro 기능 구현에 Bedrock을 적극 활용