- 오라마를 사용하여 로컬 LLM(llama2, mistral)을 실행하여 CrewAI를 무료로 구동할 수 있다. 🪄
- 오라마는 다양한 LLM을 쉽게 다운로드하고 실행할 수 있는 도구이다. 💻
- llama 2는 메타에서 개발한 2조 트리리온 토큰으로 학습된 LLM으로, 시스템 RAM에 따라 7B, 70B 모델 중 선택 가능하다. 🪶
- mistral은 7.3B 매개변수를 가진 LLM으로 llama 2(13B, 134B) 모델보다 성능이 우수하다. 💪
- CrewAI는 복잡한 작업을 처리하는 AI 에이전트를 만드는 데 사용되는 프레임워크이다. 🤖