- LSTM 셀은 은닉 상태와 셀 상태 두 가지 상태를 가집니다. 🧠
- LSTM 층의 파라미터 개수는 심플 RNN 층보다 4배 많습니다. 📈
- 여러 순환층 연결 시, 마지막 층을 제외한 이전 층은
return_sequences=True
로 설정해야 합니다. 🔗 - GRU 셀은 LSTM 셀의 간소화 버전으로 볼 수 있습니다. ⚙️
- GRU 셀의 파라미터 개수는 LSTM보다 적지만, 심플 RNN보다는 많습니다. ➕
- GRU 셀은 실제 구현 시 입력과 은닉 상태를 나누어 계산하여 파라미터 수가 늘어납니다. ➗