다양한 LLM(GPT4o, Groq, Llama3, Ollama)을 사용하여 CrewAI를 테스트했습니다. 전체 튜토리얼 및 LLM 비교
이 튜토리얼에서는 로컬 및 클라우드 환경에서 crewAI를 다양한 LLM에 연결하는 방법을 보여드리겠습니다. 그런 다음 테스트된 모든 모델의 성능 및 비용을 전체적으로 비교합니다. 테스트된 LLM은 ChatGPT-3.5-turbo, ChatGPT-4-turbo, ChatGPT-4o, Meta의 Llama3 및 Mixtral을 사용하는 Groq, 그리고 Ollama를 사용하는 로컬 Llama3입니다.
영상에 사용된 모든 기술에 대한 기술 검토를 진행하고, Joao Moura의 crewai-examples 저장소 복제, 환경 및 종속성 설정부터 다양한 LLM 백엔드를 사용하도록 코드를 변경하는 방법까지 크루 설정 과정을 안내해 드리겠습니다. 그런 다음 다양한 LLM에 대한 코드를 실행하고 런타임, 비용 및 결과 측면에서 비교하겠습니다.
링크:
https://www.crewai.com/ CrewAI 웹사이트
https://github.com/joaomdmoura/crewAI crewAI Github 저장소
https://github.com/joaomdmoura/crewAI... crewAI 예제 저장소
https://console.groq.com/ Groq API 키
https://ollama.com/ Ollama
https://platform.openai.com/docs/over... OpenAI 플랫폼(OpenAI API 키용)
https://serper.dev/ SerperDev API 키
이전 CrewAI 튜토리얼:
• CrewAI Tutorial: Automate your Life with A... 일반 CrewAI 튜토리얼
• I Automated my Instagram with AI Agents - ... CrewAI 인스타그램 크루
챕터
00:00 - 소개
01:08 - 기술 리뷰: LLM, CrewAI, AI 에이전트
03:46 - 크루 설정: 저장소 복제 및 코드 변경
12:20 - 환경 및 종속성 설정, API 키 추가
17:15 - OpenAI LLM 비교(GPT-3.5, GPT-4, GPT-4o)
22:56 - Groq(Llama3 및 Mixtral 사용)
29:40 - Ollama를 사용하여 로컬 LLM 실행
34:06 - 최종 결과 및 비용 비교
