엔비디아(www.nvidia.co.kr)가 엔비디아 AI 파운드리(NVIDIA AI Foundry)로 AI의 역량을 활용하고자 하는 기업들이 특정 산업 요구에 맞는 맞춤형 모델을 구축할 수 있도록 지원한다고 밝혔다.
엔비디아 AI 파운드리는 기업이 데이터, 가속 컴퓨팅, 소프트웨어 도구 등을 사용해 맞춤형 모델을 생성하고 배포할 수 있도록 지원하는 서비스다. 이를 통해 기업은 생성형 AI 이니셔티브를 강화할 수 있다.
엔비디아 AI 파운드리는 다른 기업이 AI 모델을 개발하고 맞춤화할 수 있도록 인프라와 도구를 제공한다. 기업들은 엔비디아 AI 파운드리 서비스를 통해 DGX 클라우드(DGX Cloud), 파운데이션 모델, 엔비디아 네모(NeMo) 소프트웨어, 엔비디아 전문 지식, 에코시스템 도구와 지원을 사용할 수 있다. 이는 마치 TSMC가 다른 기업이 설계한 칩을 제조하는 것과 같다.
가장 큰 차이점은 제품이다. TSMC는 실제 반도체 칩을 생산하는 반면, 엔비디아 AI 파운드리는 맞춤형 모델을 제작하는 데 도움을 준다. 두 기업 모두 혁신을 지원하고 방대한 도구와 파트너 에코시스템을 연결하고 있다.
기업은 AI 파운드리를 사용해 메타(Meta)의 새로운 라마 3.1(Llama 3.1) 컬렉션을 비롯해 다양한 엔비디아와 오픈소스 모델을 맞춤화할 수 있다. 여기에는 엔비디아 네모트론(Nemotron), 구글 딥마인드(Google DeepMind)의 코드젬마(CodeGemma)와 젬마(Gemma), 메타의 코드 라마(CodeLlama), 미스트랄(Mistral), 믹스트랄(Mixtral), 마이크로소프트 파이-3(Microsoft Phi-3), 스타코더2(StarCoder2) 등이 있다.
엔비디아 AI 파운드리의 핵심 요소
엔비디아 AI 파운드리는 파운데이션 모델, 엔터프라이즈 소프트웨어, 가속 컴퓨팅, 전문가 지원, 광범위한 파트너 에코시스템의 핵심 요소들에 의해 지원된다.
이 소프트웨어는 엔비디아를 비롯한 AI 커뮤니티의 AI 파운데이션 모델과 모델 개발을 빠르게 추적할 수 있는 완전한 엔비디아 네모 소프트웨어 플랫폼이 포함한다.
엔비디아 AI 파운드리의 컴퓨팅 핵심은 엔비디아 DGX 클라우드로, 아마존 웹 서비스(Amazon Web Services, AWS), 구글 클라우드(Google Cloud), 오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure)와 공동 설계된 가속 컴퓨팅 리소스 네트워크다. AI 파운드리 고객은 DGX 클라우드를 통해 전례 없이 쉽고 효율적으로 맞춤형 생성형 AI 애플리케이션을 개발하고 미세 조정할 수 있다. 또한, 하드웨어에 대한 막대한 초기 투자 없이 필요에 따라 AI 이니셔티브를 확장할 수 있다. 이러한 유연성은 급변하는 시장에서 민첩성을 유지하고자 하는 기업에게 매우 중요하다.
엔비디아 AI 파운드리 고객에게 도움이 필요한 경우, 엔비디아 AI 엔터프라이즈(AI Enterprise) 전문가가 도움을 줄 수 있다. 엔비디아 전문가는 독점 데이터를 사용해 모델을 구축, 미세 조정, 배포하는 데 필요한 각 단계를 고객에게 안내해, 모델이 비즈니스 요구사항과 완벽히 부합하도록 보장할 수 있다.
엔비디아 AI 파운드리 고객은 다양한 지원을 제공하는 글로벌 파트너 에코시스템에 액세스할 수 있다. 이들은 AI 기반 디지털 전환 프로젝트의 설계, 구현, 관리를 포괄하는 AI 파운드리 컨설팅 서비스를 제공한다. 액센츄어는 맞춤형 모델 개발을 위한 자체 AI 파운드리 기반 제품인 액센츄어 AI 리파이너리(Refinery) 프레임워크를 최초로 제공한다.
아울러, 데이터 몬스터즈(Data Monsters), 퀀티파이(Quantiphi), 슬라럼(Slalom), 소프트서브(SoftServe)와 같은 서비스 제공 파트너는 기업이 기존 IT 환경에 AI를 통합하는 복잡한 문제를 해결하도록 돕는다. 이는 확장 가능하고, 안전하며, 비즈니스 목표에 부합하는 AI 애플리케이션을 구축할 수 있도록 지원한다.
고객들은 엔비디아 파트너의 AIOps와 MLOps 플랫폼을 사용해 프로덕션용 엔비디아 AI 파운드리 모델을 개발할 수 있다.
고객들은 AI 파운드리 모델을 맞춤형 모델, 최적화된 엔진, 표준 API를 포함하는 엔비디아 NIM 추론 마이크로서비스로 출력해 원하는 가속 인프라에서 실행할 수 있다.
엔비디아 텐서RT-LLM(TensorRT-LLM)과 같은 추론 솔루션은 지연 시간을 최소화하고 처리량을 극대화하기 위해 라마 3.1 모델의 효율성을 개선한다. 이를 통해 기업은 토큰을 더 빠르게 생성하는 동시에 프로덕션에서 모델을 실행하는 데 드는 총 비용을 절감할 수 있다. 엔터프라이즈급 지원과 보안은 엔비디아 AI 엔터프라이즈 소프트웨어 제품군에서 제공한다.
엔비디아 NIM과 텐서RT-LLM은 추론 지연 시간을 최소화하고 처리량을 극대화해 라마 3.1 모델의 토큰을 더 빠르게 생성한다.
광범위한 배포 옵션에는 시스코(Cisco), 델 테크놀로지스(Dell Technologies), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise), 레노버(Lenovo), 슈퍼마이크로(Supermicro)를 비롯한 글로벌 서버 제조 파트너의 엔비디아 인증 시스템(Certified Systems)이 있다. 또한, 아마존 웹 서비스, 구글 클라우드, 오라클 클라우드 인프라스트럭처의 클라우드 인스턴스도 포함된다.
아울러 선도적인 AI 가속 클라우드인 투게더 AI(Together AI)는 10만 명 이상의 개발자와 기업으로 구성된 자사의 에코시스템에서 엔비디아 GPU 가속 추론 스택을 사용할 예정이라고 발표했다. 이로써 라마 3.1 엔드포인트와 기타 개방형 모델을 DGX 클라우드에 배포할 수 있다.
맞춤형 모델 개발을 가속화하고 간소화하는 엔비디아 네모
엔비디아 네모가 AI 파운드리에 통합됨에 따라 개발자들은 데이터 큐레이션, 파운데이션 모델 맞춤화와 성능 평가에 필요한 도구를 손쉽게 사용할 수 있다. 네모 기술은 다음을 포함한다:
• 네모 큐레이터(NeMo Curator)는 GPU 가속 데이터 큐레이션 라이브러리로, 사전 훈련과 미세 조정을 위한 대규모 고품질 데이터 세트를 준비해 생성형 AI 모델 성능을 향상시킨다.
• 네모 커스터마이저(NeMo Customizer)는 확장 가능한 고성능 마이크로 서비스로, 도메인별 사용 사례에 대한 거대 언어 모델(large language model, LLM)의 미세 조정과 정렬을 단순화한다.
• 네모 이밸류에이터(NeMo Evaluator)는 가속화된 클라우드나 데이터 센터에 있는 학술과 맞춤형 벤치마크 전반에 걸쳐 생성형 AI 모델을 자동으로 평가한다.
• 네모 가드레일(NeMo Guardrails)은 대화 관리를 조정해 LLM이 있는 스마트 애플리케이션에서의 정확성, 적절성, 보안을 지원한다. 이를 통해 생성형 AI 애플리케이션을 위한 안전 장치를 제공한다.
기업은 엔비디아 AI 파운드리의 네모 플랫폼을 사용해 요구가 정확하게 반영된 맞춤형 AI 모델을 만들 수 있다. 이러한 맞춤화를 통해 전략적 목표에 더 잘 부합하고, 의사 결정의 정확성을 높이고, 운영 효율성을 개선할 수 있다. 예를 들어, 기업은 산업별 전문 용어를 이해하고 규제 요건을 준수하며 기존 워크플로우와 원활하게 통합되는 모델을 개발할 수 있다.
SAP의 최고 AI 책임자인 필립 헤르지그(Philipp Herzig)은 “양사 파트너십의 다음 단계로, SAP는 엔비디아의 네모 플랫폼을 사용해 기업이 SAP 비즈니스 AI(SAP Business AI)로 구동되는 AI 기반 생산성을 가속화할 수 있도록 지원할 계획”이라고 말했다.
기업들은 엔비디아 네모 리트리버(Retriever) NIM 추론 마이크로서비스를 통해 맞춤형 AI 모델을 프로덕션에 배포할 수 있다. 이를 통해 개발자는 독점 데이터를 가져와 검색 증강 생성(retrieval-augmented generation, RAG)을 통해 AI 애플리케이션에 대한 지식이 풍부한 응답을 생성할 수 있다.
[영상] PC시장 관점에서 보는 명암이 갈린 인텔과 AMD의 2024년 2분기 실적,그리고 PC 시장의 미래는? 
