AI 데이터센터? GPU 클러스터? NHN 클라우드가 설명해 주는 AI 인프라 | 2024 K-클라우드·AX 프런티어 컨퍼런스
- NHN Cloud는 정보가 아닌 인프라를 의미하며, 데이터센터, 인프라, 클라우드를 구축하고 운영한다. 🏛️
- NHN클라우드는 광주에 위치한 인공지능 데이터센터에 NVIDIA의 다양한 GPU 77.3 petaflops, Graphcore의 ipu 11.2 petaflops, Pion의 mpu 11 petaflops를 구축했다. ⚡️
- 광주 AI 데이터센터는 철강 구조물로 되어 있으며, 연중임대를 통해 운영된다. 🔩
- 구축된 GPU 300개 중 일부는 GPU 클러스터 및 Multi-GP로 구성되어 훈련에 사용된다. 🧠
- NHN클라우드의 AI 데이터센터는 470여 기업에 이용되고 있으며, AI 기술이 발달하는 시대에 기업의 경쟁력 강화와 선두 주도에 기여한다. 🤝
- GPU는 수천개에서 수만개까지의 코어를 가지는 반면 CPU는 20~30개 정도의 코어를 가지고 있어, 병렬 처리 성능이 뛰어나다. ✨
- GPU의 높은 컴퓨팅 성능은 높은 전력 소비와 열 발생을 야기하므로, 효율적인 냉각 시스템이 필요하다. ❄️
- 광주 AI 데이터센터는 15kW의 높은 전력 밀도를 지원하고, 기존 데이터센터보다 두 배 많은 냉각 공기를 공급할 수 있도록 7.6m 높이의 높은 천장을 갖춘 독특한 설계를 사용한다. 🌬️