- ChatGPT는 프롬프트 중간 정보를 효과적으로 활용하지 못한다는 연구 결과가 존재합니다! 🧐
- 긴 텍스트 맥락 처리 능력을 가진 대규모 언어 모델 개발이 활발히 진행되고 있습니다. 🚀
- 텍스트 처리 능력은 모델의 맥락 길이와 관계없이 비슷하게 나타난다고 합니다. 🤝
- 다중 문서 질문 답변(MDQ)과 파티션에서 키-값을 찾는 도구(Retrieval) 등의 실험을 통해 맥락 활용 능력을 평가했습니다. 🧪
- 정답이 포함된 문서의 순서와 맥락 길이가 모델 성능에 영향을 미칠 수 있다는 것을 확인했습니다. 📑