-
딥러닝 트랜스포머의 기본 개념은 인코더와 디코더 부분으로 이루어져 있으며, 특히 어텐션 메커니즘이 중심적인 역할을 한다. 🤖
-
어텐션은 텍스트의 문맥을 파악하기 위해 특정 단어에 더 많은 비중을 두는 기법으로, 딥러닝 모델을 통해 구현된다. 👀
-
트랜스포머는 기존 RNN 기반 모델보다 빠르고 효율적인 텍스트 처리를 가능하게 한다. ⚡
-
트랜스포머는 단어를 벡터로 표현하는 "단어 임베딩" 기술을 사용하여 문맥을 이해한다. 📌
-
트랜스포머는 단순히 인코더와 디코더로 구성된 레이어들로 이루어져 있으며, 각 레이어에 이미 학습된 기술(예: ResNet, Batch Normalization)이 적용된다. 🧬