- 기본 모델은 대량의 텍스트 데이터를 기반으로 학습된 LLM으로, 생성형 AI의 기초를 이루는 모델이며, 인터넷의 압축된 버전 🎉처럼 생각해 볼 수 있습니다.
- 파인튜닝은 특정 목적에 맞게 기본 모델을 조정하는 과정으로, 기본 모델의 일부를 미세하게 수정하여 특정 작업에 최적화된 모델을 만듭니다. 🔧🔨
- 컨텍스트 길이는 LLM이 입력으로 받아들일 수 있는 토큰의 최대 개수를 의미하며, 이는 AI가 이전 대화 내용을 기억하고 현재 질문에 적절하게 응답하는 데 중요합니다. 🧠📚