유튜브블로그Top 10
내 프로필

데브허브 안내
소개업데이트 소식

데브허브 커뮤니티

RAG는 오타에 취약하다 (Typos that Broke the RAG’s Back: Genetic Attack on RAG Pipeline by ...) | NLP 코기

NLP 코기

2024. 9. 16.

0

#ai
  • RAG 시스템은 사소한 문자 오타에도 취약할 수 있으며, 이는 retriever와 leader 부분 모두에 영향을 미쳐 전체 시스템 성능 저하를 야기할 수 있습니다 🤬.
  • 기존 연구는 주로 retriever나 leader 중 하나만 검증했고, 두 부분의 상호 작용을 고려하지 못했습니다 😕.
  • 이 연구는 다양한 규모의 문자 오타를 생성하여 RAG 시스템 전체의 Robustness를 평가하는 새로운 방법을 제시합니다 🔬.
  • 실험 결과, 작은 문자 오타도 RAG 시스템의 성능에 큰 영향을 미치며, 특히 retriever 오류와 leader 오류가 함께 발생하면 성능 저하가 더욱 심각해졌습니다 🥺.

Recommanded Videos