- 자체적으로 LLMs를 실행하는 것은 데이터 보호 및 확장성 유리 ⚖️
- 강력한 지역 LLMs를 실행하려면 고가의 하드웨어(예: 2천 달러 이상 GPU)와 높은 전력 비용이 필요 🤯
- 지역 LLMs는 대량 사용 시 가장 저렴하지만, 초기 비용이 높아 진입 장벽이 높음 🚧
- 전문적인 PaaS( Platform as a Service) 서비스를 처음 활용하여 초기 비용을 절감 💲
- 제공 서비스의 성능과 비용이 안정되면, 자체 LLMs 호스팅으로 전환하는 것이 경제적으로 효율적 🌱