엔비디아가 엔비디아(NVIDIA) RTX AI PC에서 가속화된 애니씽LLM(AnythingLLM)을 통해 에이전틱 AI(Agentic AI) 개발을 지원하고 있다고 밝혔다.
생성형 AI는 사람들이 아이디어를 실현하는 방식을 변화시켰다. 에이전틱 AI는 여기서 한 걸음 나아가, 정교하고 자율적인 추론과 반복적인 계획을 통해 복잡한 다단계 문제를 해결하는 데 도움을 준다.
애니씽LLM은 사용자 정의가 가능한 오픈 소스 데스크톱 애플리케이션으로, 거대 언어 모델(Large Language Model, LLM) 기능을 PC 내 다양한 애플리케이션에 원활하게 통합할 수 있게 한다. 이를 통해 사용자는 콘텐츠 생성, 요약 등 다양한 작업에 AI를 활용해 특정한 요구를 충족시키는 맞춤형 도구를 사용할 수 있다.
엔비디아 RTX AI PC에서 가속화된 애니씽LLM은 새로운 커뮤니티 허브(Community Hub)를 출시했다. 사용자들은 이곳에서 프롬프트, 슬래시 명령, 에이전틱 AI 기술을 공유하며, 로컬에서 에이전틱 AI를 구축하고 실행해볼 수 있다.
복잡한 다단계 문제를 자율적으로 해결하는 에이전틱 AI
에이전틱 AI는 챗봇의 기능을 한 단계 더 발전시킬 수 있다. 일반적으로 작업의 맥락을 이해해 문제를 분석하고 전략을 개발할 수 있으며, 일부는 맡은 작업을 완전히 실행할 수도 있다.
예를 들어, 챗봇은 식당 추천을 요청하는 프롬프트에 답변할 수 있지만, 에이전틱 AI는 한 단계 나아가 식당의 전화번호를 확인해 예약을 도와주고, 사용자의 캘린더에 알림을 추가할 수도 있다.
에이전틱 AI는 작업 단계에서 얽매이지 않고 보다 큰 목표를 달성하는 데 도움을 준다. 할 일 목록을 처리하거나 일정을 관리하고, 작업을 정리하거나 이메일 답장을 자동화하며, 맞춤형 운동 계획을 추천하거나 여행을 계획할 수 있는 많은 에이전틱 AI 앱이 개발되고 있다.
에이전틱 AI는 프롬프트가 주어지면 데이터베이스를 비롯한 다양한 출처에서 데이터를 수집하고 처리할 수 있다. 예를 들어, 작업 파악하기 등 추론을 위해 LLM을 사용한 다음 솔루션과 특정 기능을 생성할 수 있다. 외부 도구와 소프트웨어와 통합되면 에이전틱 AI는 그 다음 작업을 실행할 수 있다.
일부 정교한 에이전틱 AI는 피드백 루프를 통해 개선될 수도 있다. 생성된 데이터가 다시 시스템에 입력되면 에이전틱 AI는 더 똑똑하고 빠르게 작동한다.
에이전틱 AI 시스템 프로세스. 에이전틱 AI는 사용자 입력을 처리하고, 데이터베이스와 기타 출처에서 정보를 탐색하며, 실시간으로 작업을 구체화해 실행 가능한 결과를 제공한다.
엔비디아 RTX AI PC로 가속화된 에이전틱 AI는 다른 어떤 PC보다 빠르게 추론을 수행하고 작업을 실행할 수 있다. 사용자는 에이전틱 AI를 로컬에서 작동해 인터넷 연결 없이도 데이터 프라이버시를 보호할 수 있다.
RTX로 가속화된 커뮤니티의 노력, 애니씽LLM
AI 커뮤니티는 이미 에이전틱 AI의 가능성에 뛰어들어 보다 스마트하고 유능한 시스템을 만드는 방법을 실험하고 있다.
애니씽LLM과 같은 애플리케이션은 개발자들이 에이전틱 AI를 쉽게 구축하고, 맞춤화거나 활성화할 수 있도록 한다. 이때 라마(Llama), 미스트랄(Mistral) 같은 개발자들이 선호하는 모델이나 올라마(Ollama), LM스튜디오(LMStudio) 등의 다양한 도구들을 함께 활용한다. 애니씽LLM은 RTX 기반 AI PC와 워크스테이션에서 가속화되며, 최신 고사양 AI 모델을 실행하는 데 필요한 컴퓨팅 성능을 제공하는 전용 하드웨어인 고성능 텐서 코어(Tensor Core)를 갖췄다.
애니씽LLM은 누구나 원활하고 생산적으로 AI 작업을 수행할 수 있도록 설계됐다. 사용자는 직관적인 인터페이스를 이용해 문서와 대화하고, 에이전틱 AI를 활용해 복잡한 맞춤형 작업을 처리하며, RTX 기반 PC와 워크스테이션에서 로컬로 최첨단 LLM을 실행할 수 있다. 즉, 일반적으로 클라우드 또는 브라우저 기반 애플리케이션과 통합할 수 없거나, 구축에 광범위한 설정과 지식이 필요한 로컬 리소스, 도구, 애플리케이션에 대한 접근이 가능한 것이다. 엔비디아 RTX GPU의 성능을 활용함으로써, 애니씽LLM은 단일 데스크톱 애플리케이션 내에서 다양한 워크플로우를 위한 더 빠르고 똑똑하며 반응성이 뛰어난 AI를 제공한다.
애니씽LLM 커뮤니티 허브는 AI에 관심있는 이들이 LLM 동작을 조정하는 데 도움이 되는 시스템 프롬프트에 쉽게 접근할 수 있도록 한다. 또한, 생산성을 높여주는 슬래시 명령을 찾고, 독특한 워크플로우와 맞춤형 도구를 위한 전문 에이전틱 AI 기술을 구축하며, 온디바이스 리소스에도 접근할 수 있게 해준다.
사용자가 에이전틱 AI를 호출해 웹 검색 쿼리를 완성하는 예시.
커뮤니티 허브에서 사용할 수 있는 몇 가지 예시 에이전트 기술에는 마이크로소프트(Microsoft) 아웃룩(Outlook) 이메일 어시스턴트, 캘린더 에이전트, 웹 검색과 홈 어시스턴트 컨트롤러 등이 있다. 또한, 특정 목적을 위한 맞춤형 애플리케이션 프로그래밍 인터페이스 엔드포인트와 서비스를 통합하는 에이전틱 AI도 존재한다.
AI에 관심있는 이들이 자신의 시스템에서 에이전틱 AI 워크플로우를 다운로드하고, 맞춤화하거나 활용하고, 완전한 개인 정보 보호와 함께 사용할 수 있도록 지원함으로써 애니씽LLM은 혁신을 촉진하고 최신 기술 실험을 용이하게 한다. 여기에는 스프레드시트 도우미를 구축하는 것부터 더 고급 워크플로우를 처리하는 것까지 다양한 작업을 포함한다.
지금 여기에서 애니씽LLM을 경험해 볼 수 있다.
사람이 구동하고 혁신을 주도하는 에이전틱 AI
애니씽LLM은 AI가 질문에 답하는 것을 넘어 생산성과 창의성을 어떻게 향상시키는 지 보여준다. 이러한 애플리케이션은 AI가 워크플로우 전반에서 필수적인 협력자로 자리매김하고 있음을 나타낸다.
에이전틱 AI의 잠재적인 응용 분야는 방대하며 창의성, 전문성, 그리고 컴퓨팅 성능이 요구된다. 엔비디아 RTX AI PC는 콘텐츠 생성과 배포와 같은 간단한 작업을 수행하거나, 엔터프라이즈 소프트웨어 조정과 같이 더 복잡한 사용 사례를 관리할 때 로컬에서 에이전틱 AI를 실행하며 최고의 성능을 제공한다.
여기에서 에이전틱 AI에 대해 자세히 알아보고 시작할 수 있다.
생성형 AI는 게임, 화상 회의 등 모든 종류의 인터랙티브 경험을 혁신하고 있다. AI 디코디드(AI Decoded) 뉴스레터를 구독해 AI의 새로운 소식에 대해 알아볼 수 있다.
[영상] PC시장 관점에서 보는 명암이 갈린 인텔과 AMD의 2024년 2분기 실적,그리고 PC 시장의 미래는? 
