- vLLM 프레임워크를 이용하여 Llama 3 모델을 다운로드 및 사용하는 방법을 안내합니다. 🦙
- Hugging Face에서 Llama 3 모델(800M 인공 지능 크기)을 다운로드하기 위해 로그인 및 요청 처리가 필요합니다. 🗝️
- Access Token을 통해 Hugging Face 저장소에 접근하여 모델을 다운로드해야 합니다. 🔐
- Git LFS를 사용하여 대용량의 모델 데이터를 다운로드해야 합니다. 💻
- 다운로드된 모델은 My Model 폴더 내에 있습니다. 📂