HPE(NYSE: HPE)는 미국 라스베이거스에서 개최한 연례행사 ‘HPE 디스커버 2024(HPE Discover 2024)’에서 새로운 ‘HPE 기반 엔비디아 AI 컴퓨팅(NVIDIA AI Computing by HPE) 포트폴리오’를 출시했다. 이는 HPE가 기업 고객들이 생성형 AI(GenAI)의 도입을 가속화할 수 있도록 엔비디아와 협력해 공동 개발한 AI 솔루션 및 고투마켓(Go-to-market) 포트폴리오다.
포트폴리오의 주요 제공 서비스 중 하나는 HPE 프라이빗 클라우드 AI(HPE Private Cloud AI) 다. 이 HPE 프라이빗 클라우드 AI(HPE Private Cloud AI)는 엔비디아의 AI 컴퓨팅, 네트워킹과 소프트웨어를 HPE의 AI 스토리지, 컴퓨팅, 및 HPE 그린레이크 클라우드(HPE GreenLake Cloud)와 가장 견고하게 통합한 최초의 솔루션으로, 모든 규모의 기업이 에너지 효율적이고, 빠르며 유연한 방식으로 생성형 AI 애플리케이션을 지속 가능하게 개발하고 배포할 수 있도록 한다. 새로운 옵스램프 AI 코파일럿 (OpsRamp AI copilot) 을 통해 IT 운영이 워크로드 및 IT 효율성을 향상시킬 수 있도록 지원하는 HPE 프라이빗 클라우드 (HPE Private Cloud AI) 는 전체 수명주기 관리를 포함한 셀프 서비스 클라우드 경험을 제공하며, 다양한 AI 워크로드와 사용 사례를 지원하기 위해 4가지 사이즈의 다른 구성으로 제공된다.
HPE가 제공하는 모든 엔비디아 AI 컴퓨팅 제품 및 서비스는 양사의 공통 고투마켓(go-to-market) 전략을 기반으로 제공되며, 이 전략에는 판매팀 및 채널 파트너, 교육, 그리고 딜로이트, HCL테크, 인포시스(Infosys), TCS 및 위프로(Wipro) 등의 SI 업체를 아우르는 글로벌 네트워크가 포함되어, 이를 통해 다양한 분야의 기업이 복잡한 AI 워크로드를 실행할 수 있도록 돕게 될 것이다.
이 발표는 HPE 회장 겸 CEO인 안토니오 네리(Antonio Neri)와 엔비디아 창립자 겸 CEO인 젠슨 황(Jenson Huang)이 함께 HPE Discover 기조 연설에서 발표한 내용으로, 이는 수십년에 걸친 양사 파트너십의 확장을 의미하며 두 회사에서 상당한 시간과 자원을 투자할 결과물이다.
안토니오 네리(Antonio Neri) HPE 회장 겸 CEO는 “생성형 AI는 기업 혁신을 위한 엄청난 잠재력을 가지고 있지만, 단편화된 AI 기술의 복잡성은 대규모 기업의 AI 기술 도입을 어렵게 하는 많은 리스크와 장애물을 포함하고 있으며, 기업의 가장 가치있는 자산인 고유 데이터를 위험에 처하게 할 수 있다. HPE와 엔비디아는 기업에서 생성형 AI의 엄청난 잠재력을 발휘할 수 있도록 하기 위해 AI를 위한 포괄적인 턴키(turnkey) 프라이빗 클라우드를 공동 개발하였고, 기업이 생산성을 높이고 새로운 수익원을 창출할 수 있는 새로운 AI 사용 사례 개발에 자원을 집중할 수 있도록 했다”고 말했다.
한편, 젠슨 황(Jensen Huang) 엔비디아 참립자 겸 CEO는 “생성형 AI와 가속 컴퓨팅은 모든 산업이 산업 혁명에 동참하기 위해 경쟁하면서 근본적인 변화를 일으키고 있다. 엔비디아와 HPE는 우리의 기술을 이렇게 깊게 통합한 적이 없었으며, 엔비디아의 전체 AI 컴퓨팅 스택과 HPE의 프라이빗 클라우드 기술을 결합하여 기업 고객과 AI 전문가들에게 AI의 경계를 확장할 수 있는 가장 진보된 컴퓨팅 인프라와 서비스를 제공할 계획이다”고 말했다.
HPE와 엔비디아가 공동 개발한 프라이빗 클라우드 AI 포트폴리오
HPE 프라이빗 클라우드 AI는 혁신을 가속화하고 투자 수익을 높이는 동시에 AI로 인한 기업의 리스크를 관리할 수 있는 독특한 클라우드 기반 경험을 제공한다. 이 솔루션에 제공하는 내용은 다음과 같다.
• 고유 데이터(proprietary data)를 활용한 추론, 미세 조정 및 RAG AI 워크로드 지원
• 데이터 프라이버시, 보안, 투명성, 거버넌스 요건을 위한 엔터프라이즈급 제어 기능
• 생산성 향상을 위한 ITOps 및 AIOps 기능이 포함된 클라우드 경험
• 미래의 AI 기회와 성장을 충족하기 위한 유연한 소비 경로 제공
HPE 프라이빗 클라우드 AI의 엄선된 AI 및 데이터 소프트웨어 스택
AI 및 데이터 소프트웨어 스택의 기반은 엔비디아 NIM 추론 마이크로 서비스(NVIDIA NIM™ inference microservice)를 포함한 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise) 소프트웨어 플랫폼으로 시작된다. 엔비디아 AI 엔터프라이즈는 데이터 사이언스 파이프라인을 가속화하고, 프로덕션급(production-grade) 코파일럿 및 기타 생성형 AI 애플리케이션의 개발 및 배포를 간소화한다. 엔비디아 AI 엔터프라이즈에 포함된 엔비디아 NIM은 최적화된 AI 모델 추론을 위한 사용하기 쉬운 마이크로서비스를 제공하여 다양한 사용 사례에 대해 프로토타입에서 안전한 AI 모델 배포로 원활하게 전환할 수 있도록 한다.
엔비디아 AI 엔터프라이즈 및 엔비디아 NIM을 보완하는 HPE AI 에센셜(HPE AI Essentials) 소프트웨어는 적응형 솔루션, 지속적인 기업 지원, 안전한 AI 서비스를 제공하는 통합 컨트롤 플레인(control plane)을 갖춘 준비된(curate) AI 및 데이터 기반 툴 세트를 제공하며, 이를 통해 데이터 및 모델 준수, 확장 가능한 기능 등 AI 수명 주기 전반에 걸쳐, AI 파이프라인이 규정을 준수하는 동시에 설명 및 재현이 가능하도록 보장한다.
AI 및 데이터 소프트웨어 스택에 최적의 성능을 제공하기 위해, HPE 프라이빗 클라우드 AI는 엔비디아 스펙트럼-X 이더넷(NVIDIA Specturm-X™ Ethernet) 네트워킹, HPE Alletra MP File 스토리지, NVIDIA L40S, NVIDIA H100 NVL 텐서 코어 GPU, NVIDIA GH200 NVL2 플랫폼을 지원하는 HPE ProLiant 서버가 포함된 완전 통합형 AI 인프라 스택을 제공한다.
HPE 그린레이크 클라우드로 가능해진 클라우드 경험
HPE 프라이빗 클라우드 AI는 HPE 그린레이크 클라우드 기반의 셀프 서비스 클라우드 환경을 제공한다. HPE 그린레이크 클라우드 서비스를 이용하는 고객들은 단일 플랫폼 기반 컨트롤 플레인을 통해 하이브리드 환경 전반에서 엔드포인트, 워크로드 및 데이터를 자동화, 조정 및 관리할 수 있는 관리 기능 및 옵저버빌리티를 제공 받으며, 워크로드 및 엔드포인트의 지속 가능성(Sustainability) 관련 지표도 확인할 수 있다.
HPE 그린레이크 클라우드와 옵스램프(OpsRamp) AI 인프라 옵저버빌리티 및 코파일럿 어시스턴트
옵스램프의 IT 운영은 HPE 그린레이크 클라우드와 통합되어 모든 HPE 제품 및 서비스에 대한 통합 옵저버빌리티 및 AIOps를 제공한다. 또한, 엔비디아 NIM 및 AI 소프트웨어 같은 엔비디아 가속 컴퓨팅 스택과 엔비디아 텐서 코어 GPU, AI 클러스터 및 엔비디아 퀀텀 인피니밴드(NVIDIA Quantum InfiniBand), 엔비디아 스펙트럼 이더넷 스위치(NVIDIA Spectrum Ethernet switch)에 대한 엔드-투-엔드 통합 옵저버빌리티도 제공한다. IT 관리자는 하이브리드 멀티 클라우드 환경 전반에 걸쳐 AI 인프라 및 워크로드를 모니터링하고 이상 징후를 식별할 수 있는 인사이트를 확보할 수 있으며, 새로운 옵스램프 운영 코파일럿은 엔비디아의 가속 컴퓨팅 플랫폼을 활용하여 대규모 데이터를 대화형 어시스턴트를 통해 분석하고 통찰력을 제공하여 운영 관리의 생산성을 높인다.
옵스램프는 또한 크라우드스트라이크(CrowdStrike) API와 통합되어 고객이 전체 인프라와 애플리케이션 전반에 걸친 엔드포인트 보안 현황을 한눈에 볼 수 있도록 할 것이다.
AI를 통한 가치 실현 가속화 – 글로벌 시스템 통합업체와의 협력 확대
비즈니스상 분명한 혜택을 가져오는 AI 솔루션과 사용 사례를 개발하는데 있어 기업들의 가치 실현시간을 더욱 단축시키기 위해, 딜로이트, HCL테크, 인포시스, TCS 및 위프로는 HPE 기반 엔비디아 AI 컴퓨팅 포트폴리오와 HPE 프라이빗 클라우드 AI를 자사의 전략적 AI 솔루션 및 서비스의 일환으로 지원한다고 발표했다.
HPE, 엔비디아의 최신 GPU, CPU 및 슈퍼칩 지원을 추가
• HPE 크레이 XD670은 8개의 NVIDIA H200 NVL 텐서 코어 GPU를 지원하며, LLM 구축에 이상적이다.
• NVIDIA GH200 NVL2를 탑재한 HPE 프로라이언트 DL384 Gen12 서버는 대형 모델 또는 RAG를 사용하는 LLM 소비자에게 이상적이다.
• 최대 8개의 엔비디아 H200 NVL 텐서 코어 GPU를 지원하는 HPE 프로라이언트 DL380a Gen12 서버는 생성형 AI 워크로드를 유연하게 확장하고자 하는 LLM 이용자에게 이상적이다.
• HPE는 NVIDIA GB200 NVL72/NVL2 뿐만 아니라 새로운 엔비디아 블랙웰(NVIDIA Blackwell), 엔비디아 루빈(NVIDIA Rubin), 엔비디아 베라(NVIDIA Vera) 아키텍처를 지원하는 제품을 곧 출시할 예정이다.
NVIDIA DGX BasePOD 및 OVX 시스템 정식 인증을 받은 고집적 파일 스토리지
HPE Alletra MP File 스토리지는 NVIDIA DGX BasePOD 및 NVIDIA OVX™ 스토리지 인증을 정식으로 획득하여, 고객에게 생성형AI 및 GPU 집약적 워크로드를 대규모로 가속화할 수 있는 검증된 엔터프라이즈 파일 스토리지 솔루션을 제공한다. 이를 통해 좀 더 쉽고 빠르게 DGX BasePOD과 OVX 시스템을 설계, 구성 및 확장할 수 있게 도와준다.
[영상] 애물단지였던 HBM이 날개를 다는 순간!,앞으로 HBM 기술은 어떻게 쓰일 것인가? 
