- Llama 4는 오픈 소스 LLM이며 Chatbot Arena에서 2위를 차지했습니다. 🏆
- 이 코스는 LLM의 기본 수학 및 파이썬 코딩부터 시작하여 Llama 4를 처음부터 코딩하는 방법을 가르칩니다. 🧑🏫
- LLM은 텍스트를 입력받아 분석하고 다음에 올 단어를 예측합니다. 🧠
- LLM은 가능한 모든 단어에 대한 확률을 계산하고, 이 확률들을 기반으로 다음 단어를 선택합니다. 🧮
- 온도 샘플링은 확률을 수정하여 창의성 또는 정확성을 높이는 데 사용됩니다. 🌡️
- 토큰은 단어, 문자, 이모티콘 등 LLM이 생성할 수 있는 모든 것을 포함합니다. 🧩
- LLM은 각 토큰의 의미와 사용법을 학습합니다. 📚
- 토큰화 방법은 계산 비용에 영향을 미치며, 각 토큰은 동일한 양의 컴퓨팅 파워를 필요로 합니다. 💻