- Ernie 4.5๋ Baidu์์ ๊ฐ๋ฐํ ์๋ก์ด ์คํ ์์ค LLM ๋ชจ๋ธ ์ ํ๊ตฐ์ ๋๋ค. ๐
- Ernie 4.5๋ 10๊ฐ์ ๋ค์ํ ๋ชจ๋ธ๋ก ๊ตฌ์ฑ๋์ด ์์ผ๋ฉฐ, ํ ์คํธ์ ์ด๋ฏธ์ง ๋ฑ ๋ค์ํ modality๋ฅผ ์ฒ๋ฆฌํ ์ ์์ต๋๋ค. ๐ผ๏ธ
- MOE(Mixture of Experts) ์ํคํ ์ฒ๋ฅผ ์ฌ์ฉํ์ฌ ๋ชจ๋ธ์ ํจ์จ์ฑ์ ๋์์ต๋๋ค. ๐ง
- ๊ฐ์ฅ ํฐ ๋ชจ๋ธ์ ์ด 4240์ต ๊ฐ์ ํ๋ผ๋ฏธํฐ๋ฅผ ๊ฐ์ง๊ณ ์์ผ๋ฉฐ, Deepseek V3๋ฅผ ๋ฅ๊ฐํฉ๋๋ค. ๐ช
- ์๋ก์ด ์ด์ข modality ๊ตฌ์กฐ๋ modality ๊ฐ ํ๋ผ๋ฏธํฐ ๊ณต์ ๋ฅผ ์ง์ํ์ฌ multimodal ์ดํด๋๋ฅผ ํฅ์์ํต๋๋ค. ๐ค
- Modality๋ณ post-training์ ํตํด ๋ค์ํ ์ค์ ์ฌ์ฉ ์ฌ๋ก์ ๋ง๊ฒ ์ต์ ํ๋์์ต๋๋ค. ๐ฏ
- ErnieKit์ ๋ชจ๋ธ ํ๋ จ, ์์ถ ๋ฐ ์์ํ๋ฅผ ์ํ ์ฐ์ ๋ฑ๊ธ ๊ฐ๋ฐ ํดํท์ ์ ๊ณตํฉ๋๋ค. ๐ ๏ธ
- FastDeploy๋ ๋ค์ค ํ๋์จ์ด ๋ฐฐํฌ๋ฅผ ์ง์ํ์ฌ ๋ชจ๋ธ ์ถ๋ก ์ ์ฝ๊ฒ ์์ํ ์ ์๋๋ก ํฉ๋๋ค. โ๏ธ
- Apache 2.0 ๋ผ์ด์ ์ค๋ก ์์ ํ ๊ฐ๋ฐฉ๋์ด ์์ด ์ปค๋ฎค๋ํฐ์ ๊ธฐ์ฌ๋ฅผ ์ฅ๋ คํฉ๋๋ค. ๐