데브허브 | DEVHUB | How to run the new Llama 3.2 Vision? 💥 Chat with Images using Llama 3.2 Vision 💥How to run the new Llama 3.2 Vision? 💥 Chat with Images using Llama 3.2 Vision 💥
- 🦙 새로운 Llama 3.2 Vision 모델을 실행하는 방법을 배우고 이미지 기반 챗 대화를 만들 수 있습니다.
- 🐳 Large Language Model인 Llama 3.2 Vision은 크기 때문에 구글 협업 노트북에는 실행이 불가능하며 Runpod를 사용해야 합니다.
- 💾 Runpod에서 작업을 위해 80GB 이상의 스토리지를 생성해야 합니다.
- 🔑 Llama 3.2 Vision 모델에 접근 권한을 요청하고 Hugging Face 토큰을 획득해야 합니다.
- 👩💻 Hugging Face 토큰을 이용하여 Runpod Jupyter 노트북에서 모델을 인증하고 로드할 수 있습니다.
- 💾 5 GB x 5 = 25GB의 모델 크기를 고려하여 Runpod에서 충분한 저장 공간을 확보해야 합니다.