유튜브블로그Top 10
내 프로필

데브허브 안내
소개업데이트 소식

데브허브 커뮤니티

vLLM : 2. Llama3 다운로드

개발자 유미

2024. 11. 12.

0

#ai
  • vLLM 프레임워크를 이용하여 Llama 3 모델을 다운로드 및 사용하는 방법을 안내합니다. 🦙
  • Hugging Face에서 Llama 3 모델(800M 인공 지능 크기)을 다운로드하기 위해 로그인 및 요청 처리가 필요합니다. 🗝️
  • Access Token을 통해 Hugging Face 저장소에 접근하여 모델을 다운로드해야 합니다. 🔐
  • Git LFS를 사용하여 대용량의 모델 데이터를 다운로드해야 합니다. 💻
  • 다운로드된 모델은 My Model 폴더 내에 있습니다. 📂

Recommanded Videos