20 AI Concepts Explained in 40 Minutes
- 대규모 언어 모델(LLM)은 입력 시퀀스의 다음 토큰을 예측하도록 훈련된 신경망입니다. 🧠
- 토큰화는 LLM의 입력을 처리하는 과정으로, 텍스트를 의미 있는 단위로 분리합니다. ✂️
- 벡터는 토큰의 의미를 나타내는 좌표로, 유사한 의미를 가진 단어들이 가까이 위치하도록 공간에 매핑됩니다. 🗺️
- 어텐션 메커니즘은 문맥을 파악하기 위해 주변 단어를 고려하여 단어의 의미를 명확히 합니다. 👁️
- 자가 지도 학습은 모델이 스스로 정답을 찾도록 입력 데이터의 구조를 활용하는 훈련 방식입니다. 🧑🏫
- 트랜스포머는 LLM에서 다음 토큰을 예측하는 특정 알고리즘으로, 어텐션 블록과 신경망을 쌓아 구성됩니다. ⚙️
- 파인 튜닝은 특정 목적에 맞게 LLM을 추가적으로 훈련하여 응답의 품질을 높이는 과정입니다. 🎯
- 퓨샷 프롬프팅은 모델에게 질의하기 전에 예시를 제공하여 응답의 정확도를 높이는 방법입니다. 💡
- 검색 증강 생성(RAG)은 실시간으로 관련 문서를 검색하여 LLM에 제공, 응답 품질을 향상시키는 기술입니다. 📚