AI 요약관련 정보

• AI의 대화 기억은 '컨텍스트' 덕분입니다. 🧠
• LLM 자체는 기억력이 없으며, 매번 전체 대화 기록(컨텍스트)을 입력으로 받습니다. 🔄
• 컨텍스트는 이전 질문과 답변이 계속 추가되어 점점 커집니다. 📈
• 컨텍스트에는 최대 크기 제한(토큰 제한)이 있습니다. 📏
• 컨텍스트가 너무 커지면 오래된 대화 내용이 잘려나가 LLM이 잊어버리게 됩니다. ✂️
• 이 때문에 LLM에게 이전에 논의했던 내용을 다시 상기시켜야 할 때가 있습니다. 🗣️
• 영구적인 컨텍스트(예: 시스템 프롬프트)를 설정하여 LLM의 행동 방식을 정의할 수 있습니다. ⚙️
• 컨텍스트 창이 너무 크면 LLM이 관련 없는 과거 정보를 가져와 응답할 수 있습니다. 🤯