Amazon Bedrock기반에서 Contextual Retrieval 활용한 검색 성능 향상 및 실용적 구성 방안

간단 소개

Amazon Bedrock 기반 Contextual Retrieval을 활용한 검색 성능 향상 및 실용적인 구성 방안을 제시합니다.

AI Summary

Contextual Retrieval의 필요성 및 기본 개념
- 기존 RAG의 한계 (컨텍스트 손실, 청크 독립성)를 극복하기 위해 Anthropic에서 Contextual Retrieval 제시
- 컨텍스트 청크 프리펜딩(Chunk Prepending) 방식으로 각 청크에 맥락 정보 추가하여 검색 정확도 향상
Contextual Retrieval 구현 및 고려 사항
- Gen AI를 이용하여 각 청크별 Situated Context 생성 (Claude Haiku 권장)
- 청크 경계 최적화, Contextual Hybrid Search, 리랭킹 등을 통해 검색 정확성 극대화
- AWS Bedrock 기반으로 Contextual Retrieval 아키텍처 구성 가능 (Amazon Bedrock Knowledge Base, Reranker API 활용)
실용적인 Contextual Retrieval 활용 방안
- 슬라이드 윈도우 또는 Parent-document 방식을 사용하여 큰 문서 처리
- 청크 사이즈 조정 (작을수록 전처리 비용 증가, 클수록 RAG 시 토큰 사용량 증가)
- 복잡한 질문에 대해 Contextual Retrieval RAG가 Standard RAG보다 더 효과적