델 테크놀로지스(Dell Technologies, 한국 대표 김경진)는 오늘 델 AI 팩토리(Dell AI Factory)에 새로운 랙 확장형 통합 시스템과 서버 및 스토리지 솔루션을 추가했다고 밝혔다. 이번 발표에는 고집적 컴퓨팅 및 대규모의 AI 워크로드를 필요로 하는 기업과 기관들을 위한 서버 신제품 및 스토리지 업데이트가 포함됐다.
델 IR 7000(Dell Integrated Rack 7000)은 뛰어난 집적도, 지속 가능한 전력 관리 및 첨단 냉각 기술을 갖춰 가속 컴퓨팅 요구에 최적화된 제품이다. OCP(Open Compute Project: 오픈 컴퓨트 프로젝트) 표준을 기반으로 디자인된 랙으로 대규모 인프라에 적합하며, 미래 지향적인 설계로 여러 세대에 걸친 이기종 기술을 수용할 수 있다. 델 IR 7000의 주요 특장점은 다음과 같다.
- 높은 집적도를 위해 설계된 21인치 폼팩터로 업계 최고 수준의 CPU 및 GPU 집적도를 제공한다.
- 미래 지향적이고 효율적인 랙 설계로 더 넓은 서버 슬레드를 통해 최신의 대형 CPU 및 GPU 아키텍처를 수용한다. 기본적으로 액체 냉각을 위해 설계된 목적형 랙으로써 향후 최대 480KW까지 냉각할 수 있으며, 발생하는 열을 100% 가깝게 포착할 수 있다.
- 선택의 폭과 유연성을 높이기 위해 설계로 델과 상용 네트워킹을 모두 지원한다.
- 간편한 구축 및 에너지 효율성을 높이기 위해 델 통합 랙 스케일러블 시스템(Dell Integrated Rack Scalable Systems. 이하 IRSS)을 사용할 수 있다. IRSS는 AI 워크로드에 최적화된 혁신적인 랙 스케일 인프라스트럭처를 제공하며, 통합된 플러그 앤 플레이 방식의 랙 스케일 시스템으로서 빠르고 효율적인 구축이 가능하다.
델 IR7000에는 다음과 같은 AI-레디 플랫폼을 장착할 수 있다.
- 엔비디아 기반 델 AI 팩토리(Dell AI Factory with NVIDIA) 포트폴리오의 일부인 델 파워엣지 XE9712(Dell PowerEdge XE9712)는 대규모 AI 구축 환경의 LLM 학습 및 실시간 추론을 위한 고성능의 고집적 가속 컴퓨팅을 제공한다. 엔비디아 GB200 NV L72를 기반으로 업계 최고의 GPU 집적도를 제공하는 이 플랫폼은 랙 스케일 설계에서 최대 36개의 엔비디아 그레이스 CPU(NVIDIA Grace CPU)와 72개의 엔비디아 블랙웰 GPU(NVIDIA Blackwell GPU) 연결을 지원한다. 72개의 GPU NV링크(NVLink) 도메인은 최대 30배 빠른 실시간 1조 개 파라미터 LLM 추론이 가능한 단일 GPU로서 구동된다. 수랭식 엔비디아 GB200 NVL72는 공랭식 NVIDIA H100 시스템 보다 최대 25배 더 효율적이다.
- 델 파워엣지 M7725(Dell PowerEdge M7725)는 각종 연구, 정부 기관, 금융 서비스 등에 적합한 고성능 고집적 컴퓨팅을 제공한다. IR7000 랙에 구축하도록 설계된 이 모델은 랙당 2만 4천 개에서 2만 7천 개까지 코어를 탑재할 수 있으며, 64개 또는 72개의 2소켓 노드 및 5세대 AMD 에픽(EPYC) CPU 기반의 향상된 서비스 확장성을 제공한다. 전면 IO 슬롯으로 고속 IO 연결이 가능하며 까다로운 애플리케이션을 처리할 수 있는 탁월한 연결성을 갖췄다. 에너지 효율적인 폼 팩터로 다이렉트 리퀴드 쿨링(DLC) 방식의 수랭식과 공랭식을 조합하여 보다 지속 가능한 데이터센터 운영을 지원한다.
델 테크놀로지스는 고객들이 AI 애플리케이션 성능을 끌어올리고 글로벌 데이터 관리를 간소화할 수 있도록 비정형 데이터 스토리지 포트폴리오를 계속해서 혁신하고 있다.
세계 최초로 엔비디아 DGX 슈퍼POD(SuperPOD) 인증을 받은 이더넷 스토리지인 델 파워스케일(Dell PowerScale)은 신규 업데이트를 통해 데이터 관리 전략을 강화하고 워크로드 성능을 개선하며 AI 워크로드에 대한 지원을 강화한다. 1)
- 향상된 검색 가능성(discoverability): 파워스케일 메타데이터와 델 데이터 레이크하우스(Dell Data Lakehouse)를 사용하여 데이터 인사이트를 확보해 보다 스마트하게 의사 결정을 내릴 수 있도록 돕는다. 향후 출시 예정인 엔비디아 니모(NVIDIA NeMo) 서비스 및 RAG 프레임워크용 델 오픈 소스 문서 로더를 통해 데이터 수집 시간을 단축하고 컴퓨팅 및 GPU 비용을 절감할 수 있다.
- 고집적 스토리지: 용량과 효율성을 높이는 동시에 데이터 센터 스토리지 상면을 절반으로 줄여주는 새로운 61TB 드라이브로 대규모 데이터 세트를 학습하고 AI 모델을 미세 조정할 수 있다. 2)
- 향상된 AI 성능: 최대 63% 더 빠른 처리량을 제공하는 프론트 엔드 엔비디아 인피니밴드(InfiniBand) 기능 및 200GbE 이더넷 어댑터 지원을 통해 AI 워크로드 성능을 향상시킬 수 있다. 3)
업데이트 된 델 데이터 레이크하우스 데이터 관리 플랫폼에는 재해 복구, 자동화된 스키마 검색, 포괄적인 관리 API, 셀프 서비스 풀 스택 업그레이드와 같은 새로운 기능이 추가됐다.
이와 함께 데이터 카탈로그 최적화 서비스(Optimization Services for Data Cataloging) 및 데이터 파이프라인 구현 서비스(Implementation Services for Data Pipelines)를 활용하면 데이터 중심의 AI 프로젝트를 간소화하고 사용 사례를 신속하게 확장할 수 있다. 특히 검색, 구성, 자동화 및 통합을 통해 고품질 데이터에 대한 접근성을 높이는데 용이하다.
델 AI 팩토리의 일부인 인텔 기반의 델 생성형 AI 솔루션(Dell Generative AI Solutions with Intel)은 원활한 AI 구축을 위해 공동 엔지니어링, 테스트 및 검증된 플랫폼을 제공한다. 인텔 가우디 3(Intel® Gaudi® 3) AI 가속기를 탑재한 델 파워엣지 XE9680을 중심으로 델의 스토리지, 네트워킹, 컨설팅 및 구축 서버스, 그리고 오픈 소스 소프트웨어를 결합하여 사전 구성된 통합 스택에서 콘텐츠 제작, 디지털 어시스턴트, 디자인, 데이터 생성, 코드 생성 등 다양한 생성형 AI 사용 사례를 지원한다.
델 IR7000과 델 파워엣지 M7725 서버는 2025년 1분기에 한국을 비롯한 전 세계에 출시될 예정이며, 파워엣지 XE9712은 일부 고객들에 한해 샘플링 제품을 제공하고 있다. 델 파워스케일 업데이트는 올 12월에 제공되며, 델 데이터 레이크하우스 업데이트는 2025년 1분기 중 제공될 예정이다. 인텔 기반의 델 생성형 AI 솔루션은 2024년 4분기 중 출시될 예정이다.
[영상] PC시장 관점에서 보는 명암이 갈린 인텔과 AMD의 2024년 2분기 실적,그리고 PC 시장의 미래는? 
