- DeepSeek R1 증류 모델을 LM Studio를 사용하여 로컬에서 실행하는 방법을 설명합니다. 💡
- LM Studio를 이용하면 DeepSeek R1 증류 모델을 쉽게 다운로드 및 사용할 수 있습니다. 💻
- 70억 파라미터의 DeepSeek R1 증류 모델(Quin)을 사용하는 방법을 자세히 보여줍니다. ⬇️
- 모델 다운로드 및 로딩 과정, 그리고 질문과 답변을 통해 모델 사용법을 시연합니다. 🗣️
- 모델 로딩 시 GG UF 및 MLX를 활성화하는 방법과 그 이유를 설명합니다. ⚙️
- 생각 과정(Thinking Token)과 최종 결과를 보여주는 인터페이스를 소개합니다. 🤔
- LM Studio의 시스템 프롬프트, 토큰 수 조정 등 추가 기능을 설명합니다. ⚙️
- 모델을 종료하고 다시 로드하는 방법도 보여줍니다. 🔄