AI 컴퓨팅 기술 분야의 선두주자인 엔비디아(www.nvidia.co.kr, CEO 젠슨 황)가 엔비디아 AI 서밋 재팬(NVIDIA AI Summit Japan)에서 일본 내 클라우드 선도 기업들이 산업 전반의 혁신을 가속화할 수 있도록 AI 인프라 구축을 지원하고 있다고 발표했다.
일본의 클라우드 선도 기업인 소프트뱅크(SoftBank Corp.), GMO 인터넷 그룹(GMO Internet Group), 하이레소(Highreso), KDDI, 루틸레아(Rutilea), 사쿠라 인터넷(SAKURA internet)은 로봇, 자동차, 의료, 통신 등 산업 전반의 혁신을 가속화하기 위해 엔비디아 가속 컴퓨팅, 네트워킹, 소프트웨어를 활용한 AI 인프라를 구축하고 있다.
일본 클라우드 제공업체들은 산업 전반에 걸쳐 중요한 컴퓨팅 자원을 공급하기 위해 일본 경제산업성(Ministry of Economy, Trade and Industry, METI) 프로그램을 통해 서비스를 지원하고 있다. 이들은 일본 중부, 북부, 서부 지역에 걸쳐 AI 데이터센터를 운영하며 국가와 지역의 엔비디아 가속 컴퓨팅 인프라를 통한 개발을 지원하고 있다.
엔비디아 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 “일본 기업들은 AI 기반의 새로운 산업 혁명으로부터 엄청난 혜택을 받게 될 것이다. 기업 직원들은 AI 에이전트를 통해 업무를 자동화함으로써 속도와 생산성을 극대화할 것이다. 미래의 산업 기업들은 현재 공장에서 생산하는 제품과 기계를 위한 소프트웨어 인텔리전스를 생산하는 새로운 AI 팩토리인 듀얼 팩토리를 운영할 것이다. 일본의 클라우드 제공업체들은 엔비디아와 협력해 일본의 자동차, 로보틱스, 통신, 의료 산업을 AI 시대에 맞게 재편하는 데 필수적인 AI 팩토리를 구축하고 있다”고 말했다.
엔비디아 AI로 산업을 지원하는 일본 전역의 클라우드 서비스
소프트뱅크는 일본에서 가장 강력한 AI 슈퍼컴퓨터를 구축하기 위해 엔비디아 블랙웰(Blackwell) 플랫폼을 도입한다. 또한, 여기에는 엔비디아 DGX B200 시스템이 탑재된 세계 최초의 엔비디아 DGX SuperPOD™이 포함된다.
소프트뱅크는 엔비디아 AI 인프라를 활용해 다양한 산업을 가속화하고 있다. 소프트뱅크의 자회사인 SB 인튜이션(SB Intuitions)은 일본어 특화 고성능 거대 언어 모델(Large Language Model, LLM)의 연구, 개발을 위해 엔비디아 AI를 사용하고 있다.
GMO 인터넷 그룹은 일본 최초의 로컬 클라우드 서비스인 GMO GPU 클라우드(GMO GPU Cloud)를 출시할 예정이다. 이 서비스는 풀스택 엔비디아 H200 텐서 코어(Tensor Core) GPU, AI용 엔비디아 스펙트럼-X 이더넷(Spectrum-X™ Ethernet) 플랫폼, 엔비디아 블루필드-3(BlueField™-3) DPU, 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어 제품군을 갖추고 있다. 이 서비스는 델 파워엣지(Dell PowerEdge) 서버를 기반으로 구축됐으며, 이번 달 온라인에 출시돼 일본 내 기업에 클라우드 기반 AI 컴퓨팅을 제공할 예정이다.
GMO GPU 클라우드 고객은 엔비디아 AI 엔터프라이즈 소프트웨어를 사용해 플랫폼에서 프로덕션 환경으로 실행 중인 생성형 AI 애플리케이션을 가속화할 수 있다.
하이레소는 엔비디아 가속 컴퓨팅으로 구동되는 전용 AI 데이터센터인 하이레소 카가와(Highreso Kagawa)를 설립해 일본 내 AI 개발에 박차를 가하고 있다. 엔비디아 H200 텐서 코어 GPU로 구축된 카가와 데이터센터는 다음 달 운영을 시작할 예정이다. 또한, 하이레소의 GPUSOROBAN AI 슈퍼컴퓨터 클라우드 서비스를 위한 고성능 인프라를 제공할 계획이다.
하이레소의 두 번째 AI 데이터센터는 내년 여름에 가동될 예정이다. 두 데이터센터는 일본 전역의 연구진과 기업에게 1,600개의 엔비디아 GPU에 대한 액세스를 제공하며 제조, 연구, 교육 기관에서 AI 개발을 촉진하는 데 기여할 것이다.
KDDI는 엘리자(ELYZA) 비즈니스 그룹과 협력해 생성형 AI와 특화된 LLM 개발을 지원하기 위해 엔비디아 HGX™ 시스템으로 구축된 AI 컴퓨팅 인프라를 출시한다. KDDI 고객은 엔비디아 소프트웨어를 활용해 이 인프라를 사용할 수 있다. 이를 통해 AI 모델 훈련과 추론 가속화, 디지털 트윈 구축, 자율주행 차량, 로봇 모션 제어와 센서 데이터 처리를 위한 시뮬레이션 작업 등을 수행할 수 있다.
또한, KDDI는 엔비디아 GB200 그레이스(Grace) 블랙웰 슈퍼칩이 탑재된 엔비디아 GB200 NVL72 플랫폼을 기반으로 하는 수냉식 데이터센터를 계획하고 있다.
교토에 본사를 둔 엔비디아 인셉션(Inception) 회원인 루틸레아는 자사의 AI 클라우드 데이터센터에서 사용 가능한 엔비디아 호퍼(Hopper™) 컴퓨팅을 2배로 확대하고 있다. 이 스타트업은 1,000개 이상의 엔비디아 호퍼 GPU를 제공하고 있다. 이는 애니메이션, 소매, 식품 서비스, 비전 기반 편집과 데이터 추출을 위한 파운데이션 모델을 구축하는 고객들의 LLM 개발에 사용될 것이다.
또한, 루틸레아의 자회사인 AI 후쿠시마(AI Fukushima)는 2011년 도호쿠 지역에서 발생한 지진 이후 지속적인 산업 복구를 지원하기 위해 지난 9월 후쿠시마 오쿠마에 새로운 데이터센터를 가동하기 시작했다. 루틸레아가 구축한 인프라를 운영하는 AI 후쿠시마는 최첨단 AI 컴퓨팅 플랫폼을 제공함으로써 지역 경제와 지역 개발의 활성화에 기여하는 것을 목표로 하고 있다.
사쿠라 인터넷은 생성형 AI를 위한 코카료쿠(Koukaryoku) 클라우드 서비스의 엔비디아 호퍼 GPU를 2,000개에서 약 4,000개로 확장할 계획이다. 또한, 이시카리 데이터센터에 블랙웰 GPU가 탑재된 엔비디아 HGX B200 인프라를 설치할 계획이며, 이 데이터센터는 2027년까지 재생 에너지로 완전히 구동될 것으로 기대된다. 아울러 사쿠라 인터넷은 고성능 AI 컴퓨팅 제공의 일환으로 약 10,800개의 GPU를 제공할 계획이다.
사쿠라 인터넷의 고객으로 공공 부문 연구 기관인 국립정보연구소(National Institute of Informatics, NII)가 있다. 이 기관은 거대 언어 모델 연구 및 개발 센터(Research and Development Center for Large Language Models)를 설립했으며, 일본어 중심의 의료용 LLM 개발 등 오픈 생성형 AI 연구, 개발 활동을 통해 일본 내 산업, 정부, 학계 간의 협력을 촉진하고 있다. 일본에 본사를 둔 드라이빙 소프트웨어 스타트업인 티어포(TIER IV)도 엔비디아 가속 사쿠라 인터넷 컴퓨팅을 활용해 오픈 소스 소프트웨어로 지능형 차량을 개발한다는 비전을 실현하고 있다.
[영상] PC시장 관점에서 보는 명암이 갈린 인텔과 AMD의 2024년 2분기 실적,그리고 PC 시장의 미래는? 
