- ChatGPT API는 사용하기 쉽지만, 뒤바뀌는 모델 및 하드웨어 구성 때문에 예상치 못한 성능 저하가 발생할 수 있습니다. 🤔
- GPU 대여는 모델 선택과 하드웨어 구성, 예산에 따라 맞춤 설정 가능하며, 오픈 소스 모델 사용이 가능합니다. ⚙️
- Replicate와 같은 플랫폼은 GPU 대여 서비스를 제공하며, 여러 구성 옵션과 원하는 모델을 사용할 수 있도록 지원합니다. ⚡️
- 작은 모델은 GPU 대여 플랫폼에서 자주 사용되어 ‘골드 부팅’이 적습니다. 🏂
- 강력한 로컬 컴퓨팅 능력을 가진 경우, 오픈소스 LLM을 로컬로 실행하여 비용을 절감할 수 있습니다. 💻