AI 컴퓨팅 기술 분야의 선두주자인 엔비디아가 지난 10월 7일부터 9일(현지 시간)까지 미국 워싱턴 D.C.에서 열린 엔비디아 AI 서밋(NVIDIA AI Summit)에서 획기적인 에너지 효율과 AI 기반 혁신을 강조했다.
지난 8일 엔비디아 엔터프라이즈 플랫폼 담당 부사장 밥 피트(Bob Pette)가 엔비디아 AI 서밋 기조연설에 나서며 가속 컴퓨팅은 지속 가능한 컴퓨팅이라고 설명했다.
엔비디아의 가속 컴퓨팅은 단순히 효율적이기만 한 것이 아니라 차세대 산업, 과학, 의료 혁신에 매우 중요한 역할을 하고 있다.
이날 밥 피트 부사장은 행사에 참석한 정책 담당자, 언론, 개발자, 기업가 등에게 “우리는 새로운 산업 혁명의 태동기에 있다. 엔비디아는 성능뿐 아니라 에너지 효율을 염두에 두고 시스템을 설계하고 있다는 점을 말하기 위해 이 자리에 섰다”고 말했다.
엔비디아 블랙웰(Blackwell) 플랫폼은 지난 10년 동안 GPT-4와 같은 훈련 모델의 에너지 소비를 최대 2,000배까지 줄이며 AI 컴퓨팅 분야에서 획기적인 에너지 효율성을 달성했다.
엔비디아 가속 컴퓨팅은 전 세계적으로 AI가 빠르게 도입되는 가운데 지속 가능성을 위한 가속 컴퓨팅의 가치를 강조한다. 실제로 AI 모델의 결과물인 토큰 생성에 필요한 에너지 사용량을 10만 배까지 절감하고 있다.
밥 피트 부사장은 “이 AI 팩토리는 제품을 생산한다. 그 제품은 토큰이고, 토큰은 인텔리전스이며, 인텔리전스는 곧 돈이다. 이것이 바로 지구상의 모든 산업에 혁명을 일으킬 것”이라고 말했다.
그는 산업 전반에서 혁신을 실현하는 데 기본이 되어 온 엔비디아의 쿠다(CUDA) 라이브러리는 현재 4,000개 이상의 가속 애플리케이션을 지원하고 있다고 설명했다.
그는 “쿠다는 가속화를 가능하게 한다. 또한 에너지 소비를 줄일 수 있는 가장 탁월한 방법 중 하나로 밝혀졌다"고 말했다.
이러한 라이브러리는 전력 소비를 최소화하면서 상당한 성능 향상을 이끌어내는 에너지 효율적인 AI 혁신의 핵심이다.
또한 밥 피트 부사장은 엔비디아의 AI 소프트웨어가 어떻게 조직이 AI 솔루션을 빠르고 효율적으로 배포해 기업이 더 빠르게 혁신하고, 여러 부문의 복잡한 문제를 해결할 수 있도록 지원하는지에 대해서도 자세히 설명했다.
그는 지능형 에이전트가 자율적으로 인지하고 추론하며 행동할 수 있도록 지원해 기존 AI를 뛰어넘는 에이전틱 AI(Agentic AI)의 개념에 대해 소개했다.
그는 “에이전틱 AI는 추론하고, 학습하고, 행동을 취할 수 있다. 이는 제조, 고객 서비스, 의료와 같은 산업을 변화시키고 있다"고 말했다.
이러한 AI 에이전트는 복잡한 작업을 자동화하고 제조, 고객 서비스, 의료와 같은 분야에서 혁신을 가속화함으로써 산업을 변화시키고 있다고 설명했다.
또한 AI 에이전트가 어떻게 기업이 의료, 제조, 과학 연구, 기후 모델링 분야에서 혁신을 주도할 수 있도록 지원하는지에 대해서도 이야기했다.
그는 “에이전틱 AI를 사용하면 며칠이 걸리던 일을 몇 분 만에 할 수 있다"고 말했다.
엔비디아는 파트너사들과 협력해 질병 진단, 의료 서비스 개선, 기후 모델링 발전, 지구 밖 생명체 탐지 등 세계가 직면한 가장 큰 도전과제를 해결하고 있다.
밥 피트 부사장은 엔비디아는 세티(SETI)연구소와 협력해 먼 은하계에서 발생하는 고속 전파 폭발에 대한 실시간 AI 검색을 수행해 우주 탐사를 지속할 수 있도록 돕고 있다고 말했다.
그는 엔비디아가 의료 분야에서 10조 달러 규모의 기회를 창출하고 있다고도 전했다.
엔비디아는 AI를 통해 질병 진단, 신약 개발, 의료 영상 분야의 혁신을 가속화해 전 세계적으로 의료 서비스를 변화시키고 있다.
엔비디아 클라라(Clara) 의료 이미징 플랫폼과 같은 솔루션은 진단을 혁신하고 있다. 또한, 파라브릭스(Parabricks)는 유전체학 연구 분야에서 획기적인 발전을 이루고 있으며, 모나이(MONAI) AI 프레임워크는 의료 이미징 기능을 발전시키고 있다.
밥 피트 부사장은 카네기멜론대학교(Carnegie Mellon University)와 피츠버그 대학교(University of Pittsburgh)를 비롯한 주요 기관과의 파트너십을 강조하며 AI 혁신과 개발을 촉진하고 있다고 말했다.
또한 그는 엔비디아와 연방 기관과의 협력에 대해서도 설명했다. 이 협력은 의료, 기후 모델링과 국가 안보 분야에서 AI 기반 솔루션을 발전시키는 데 있어 공공과 민간 파트너십의 중요성을 보여준다.
그는 새로운 엔비디아 NIM 에이전트 블루프린트(NIM Agent Blueprint)가 사이버 보안의 발전을 지원한다고 발표했다. 이는 업계가 AI 기반 솔루션으로 중요 인프라를 보호할 수 있도록 도울 예정이다.
사이버 보안 분야에서 실시간 위협 탐지와 분석을 통해 조직이 중요 인프라를 보호할 수 있는 강력한 도구인 엔비디아 NIM 에이전트 블루프린트를 집중 조명했다.
엔비디아 NIM 에이전트 블루프린트는 위협 대응 시간을 며칠에서 몇 초로 단축해 산업 보호에 있어 중대한 도약을 의미한다.
그는 “에이전틱 시스템은 도구에 액세스하고 전체 맥락을 통해 추론해 클릭 한 번으로 즉각적인 평가를 제공할 수 있다. 이를 통해 보안 분석가는 가장 중요한 작업에 집중할 수 있고, 과중한 분석 작업은 AI가 처리해 빠르고 실행 가능한 인사이트를 제공함으로써 생산성이 향상된다"고 말했다.
엔비디아의 가속 컴퓨팅 솔루션은 보다 정확하고 빠른 기후 모델링을 가능하게 함으로써 기후 연구를 발전시키고 있다. 이 기술은 과학자들이 지구 온도 모니터링부터 자연재해 예측에 이르기까지 가장 시급한 환경 문제를 해결하는 데 도움을 주고 있다.
그는 기후 전문가들이 엔비디아 어스-2(Earth-2) 플랫폼을 통해 여러 소스에서 데이터를 가져와 엔비디아 옴니버스(Omniverse)를 사용해 분석할 수 있는 방법을 설명하며 “엔비디아 어스-2는 시뮬레이션 AI와 시각화의 힘을 결합해 기후와 기술 생태계를 강화한다"고 말했다.
밥 피트 부사장의 기조연설에 이어 엔비디아 기업 마케팅과 개발자 프로그램 부문 부사장인 그레그 에스테스(Greg Estes)는 엔비디아 AI 테크 커뮤니티(AI Tech Community)와 같은 이니셔티브를 통해 인력 교육에 전념하고 있는 엔비디아의 노력에 대해 강조했다.
엔비디아는 딥 러닝 인스티튜트(Deep Learning Institute)를 통해 이미 전 세계 60만 명 이상에게 교육을 제공하며 차세대가 AI 기반 미래를 탐색하고 주도할 수 있는 핵심 기술을 갖추도록 지원하고 있다.
이번 AI 서밋에서 업계 리더들은 사이버 보안과 지속 가능성 분야에서 핵심 문제를 해결하는 데 AI의 역할에 대한 이야기를 나눴다.
미국 에너지부 장관 제니퍼 그랜홈(Jennifer Granholm)은 AI가 에너지 혁신과 과학적 발견을 어떻게 발전시키고 있는지에 대해 논의했다.
다른 연사들은 기후 모니터링과 환경 관리에서 AI의 역할을 다루며 글로벌 지속 가능성 문제를 해결할 수 있는 기술을 선보였다.
[영상] 2024년 하반기 신제품 살펴보기 GPU/서버편,인텔 배틀메이지/가우디3/제온6/AMD MI325X/에픽 튜린/엔비디아 RTX AI PC 
