아마존웹서비스(Amazon Web Services, 이하 AWS)는 오늘 AWS 리인벤트(re:Invent)에서 모델 선택권을 확대하고 강력한 기능을 제공하여 고객이 비즈니스에 맞춤화된 생성형 인공지능(AI) 애플리케이션을 보다 쉽게 구축하고 확장할 수 있도록 하는 아마존 베드록(Amazon Bedrock)의 혁신 기술을 발표했다.
아마존 베드록은 업계 최고의 대규모 언어 모델 및 AI21 랩스(AI21 Labs), 앤트로픽(Anthorpic), 코히어(Chohere), 메타(Meta), 스태빌리티 AI(Stability AI), 아마존의 파운데이션 모델(FM)에 쉽게 액세스할 수 있는 완전 관리형 서비스로, 고객이 생성형 AI 애플리케이션을 구축하는 데 필요한 광범위한 기능과 함께 개인정보 보호 및 보안을 지원하고 개발 과정을 간소화한다.
이번 발표는 고객에게 업계 최고의 모델과 이를 평가할 수 있는 새로운 기능을 더 많이 제공하고, 관련된 독점(proprietary) 데이터로 모델을 맞춤화하는 방법을 간소화하며, 복잡한 작업의 실행을 자동화하는 도구를 제공하고, 고객이 책임감 있게 애플리케이션을 구축하고 배포할 수 있는 안전장치를 제공함으로써 생성형 AI에 대한 접근성을 더욱 넓힌다. 아마존 베드록에 새롭게 추가된 이러한 기능은 모든 규모와 모든 산업 분야의 조직이 생성형 AI를 사용하여 혁신하고 고객 경험을 재창조하는 방법을 변화시킨다.
스와미 시바수브라마니안(Swami Sivasubramanian) AWS 데이터 및 AI 부문 부사장은 "생성형 AI는 우리 시대의 가장 혁신적인 기술이 될 것이며, 우리는 고객이 생성형 AI를 새로운 기회에 적용하고 비즈니스 과제를 해결하는 방식에서 영감을 얻는다"며 "고객들은 생성형 AI를 비즈니스에 통합하면서 선도적인 모델, 사용자 지정 기능, 에이전트 기능, 엔터프라이즈급 보안 및 개인정보 보호, 완전 관리형 환경을 제공하는 아마존 베드록을 선택하고 있다. 고객들은 아마존 베드록을 통해 더 많은 도구를 손쉽게 사용할 수 있으며 생성형 AI의 잠재력을 최대한 활용해 사용자 경험을 재구상하고 비즈니스를 재창조하며 생성형 AI 여정을 가속화하고 있다"고 말했다.
기업이 생산성 향상, 혁신적인 사용자 경험 제공, 업무 재구상 등 다양한 사용 사례에 생성형 AI를 사용하기를 원하는 가운데 생성형 AI는 매일 새로운 옵션 및 혁신과 함께 빠르게 진화하고 있다. 매우 유동적인 분야이기 때문에 고객의 적용 능력이 가장 핵심적인 도구라고 할 수 있다. 기업은 사용 가능한 최신의, 최고의 모델을 사용해 실험, 배포, 반복, 전환할 수 있어야 하며, 새롭게 업데이트되는 것을 즉시 수용할 준비가 되어 있어야 한다. 이러한 과제를 해결하기 위해 AWS는 다양한 모델을 API 호출처럼 쉽게 구축하고, 모든 개발자가 모델 사용자 정의에 대한 최신 기술을 사용할 수 있도록 하며, 고객의 데이터를 안전하게 보호할 수 있도록 아마존 베드록을 개발했다.
이러한 이유로 알리다(Alida), 오토메이션 애니웨어(Automation Anywhere), 블루시프트(Blueshift), BMW, 클라리안트(Clariant), 코인베이스(Coinbase), 콕스 오토모티브(Cox Automotive), 덴츠(dentsu), 드루바(Druva), 제네시스(Genesys), 길리어드(Gilead), 고대디(GoDaddy), 헬만 월드와이드 로지스틱스(Hellmann Worldwide Logistics), 인릭스(INRIX), 콘(KONE), 렉시스넥시스 리걸 앤 프로페셔널(LexisNexis Legal & Professional), 냇웨스트(NatWest), 넥시오트(Nexxiot), 오퍼업(OfferUp), 옴니콤(Omnicom), PGA 투어, 프루프포인트(Proofpoint), 세일즈포스(Salesforce), 지멘스(Siemens), 타케나카 코퍼레이션(Takenaka Corporation), 베린트(Verint) 등의 기업이 생성형 AI의 힘을 사용하고자 아마존 베드록을 선택했다.
앤트로픽, 코히어, 메타, 스태빌리티 AI와 아마존 타이탄 제품군에 추가된 최신 모델을 통해 고객의 모델 선택 폭 확장
모든 사용 사례에 맞춤형으로 적용 가능한 이상적인 단일 모델은 없다. 모든 모델은 기능, 가격, 성능에 따라 다양하다. 고객이 다양한 모델을 쉽게 이용할 수 있어야 여러 모델을 시험해보고, 모델을 전환하고, 필요에 따라 가장 적합한 모델을 조합할 수 있다. 고객은 아마존 베드록을 사용하여 API를 통해 새로 출시된 앤트로픽 클로드 2.1(Anthropic Claude 2.1), 메타 라마 2 70B(Meta Llama 2 70B), 그리고 최근 출시된 코히어 커맨드 라이트(Cohere Command Light), 코히어 임베드 잉글리시(Cohere Embed English), 코히어 임베드 멀티링구얼(Cohere Embed Multilingual), 메타 라마 2 13B(Meta Llama 2 13B), 스태빌리티 AI 스테이블 디퓨전 XL 1.0(Stability AI Stable Diffusion XL 1.0)을 포함한 최신 버전 모델에 전부 액세스할 수 있다.
아마존 타이탄 텍스트 임베딩(Amazon Titan Text Emebeddings)과 아마존 타이탄 텍스트(Amazon Titan Text) 모델(정식 출시)에 더해, AWS는 아마존 타이탄 이미지 생성기(Amazon Titan Image Generator) 와 아마존 타이탄 멀티모달 임베딩(Amazon Titan Multimodal Embeddings)을 도입하여 고객이 모델을 활용해 생성형 AI 애플리케이션을 구축하는데 더 많은 선택권과 유연성을 제공한다. 아마존 베드록 전용 아마존 타이탄 모델은 다양한 사용 사례를 위해 AWS에서 생성, 대규모의 데이터 세트를 사전 학습하며, 책임 있는 AI 사용을 위한 지원 기능을 탑재한다. 또한 아마존은 정식 출시된 아마존 타이탄 모델 또는 그 결과물이 타사 저작권을 침해할 시 고객에 대한 보상을 보장한다.
• 아마존 베드록의 엔트로픽 클로드 2.1: 엔트로픽은 신뢰할 수 있고, 해석 가능하며, 조정 가능한 AI 시스템을 구축하는 AI 안전 및 개발 회사로 최신 언어모델 클로드 2.1을 아마존 베드록에 출시했다. 클로드 2.1은 20만 개의 토큰 컨텍스트 윈도우(token context window)를 제공하며, 긴 분량의 문서 처리에 대한 정확도를 향상시켰다. 고객은 재무제표나 내부 데이터 세트와 같이 텍스트가 많은 문서를 처리할 수 있으며, 클로드 2.1을 통해 요약, Q&A, 문서 대조 등 다양한 작업을 수행할 수 있다. 엔트로픽은 클로드 2.1이 이전 모델에 비해 허위 정보(false statement)가 2배 감소하여 정직성(honesty)이 크게 향상되었다고 보고했다.
• 아마존 베드록의 메타 라마 2 70B: 라마 2는 메타의 차세대 언어 모델이다. 라마 2는 라마 1보다 40% 많은 데이터로 학습되었으며, 컨텍스트 길이가 두 배 더 길어졌다. 최근 발표된 라마 2의 130억 개 파라미터 모델과 더불어 이제 아마존 베드록에서 라마 2의 700억 개 파라미터 모델을 사용할 수 있다. 사전 학습된 라마 모델을 기반으로 구축된 라마 2는 명령어 데이터 세트와 1백만 개 이상의 휴먼 어노테이션(human annotation)을 통한 미세 조정(fine-tuning)으로 대화 사용 사례에 최적화되었다. 이 모델은 추론, 코딩, 숙련도, 지식 테스트 등 여러 외부 벤치마크와 비교하여 우수한 성능을 발휘하며 아마존 베드록을 통해 경쟁력 있는 가격과 성능으로 제공된다.
• 새로운 아마존 타이탄 이미지 생성기(Amazon Titan Image Generator) 프리뷰 제공: 광고, 전자상거래, 미디어 및 엔터테인먼트와 같은 업계의 고객들이 스튜디오 품질의 사실적인 이미지를 제작하거나 자연어 프롬프트를 사용하여 기존 이미지를 개선할 수 있도록 지원하는 아마존 타이탄 이미지 생성 AI는 저렴한 비용으로 대량의 이미지를 빠르게 구상하고 반복학습(iteration)할 수 있도록 도와준다. 이 모델은 복잡한 프롬프트를 이해하고 정확한 물체 구성과 제한된 왜곡으로 관련성 있는 이미지를 생성하여 유해한 콘텐츠 생성을 줄이고 잘못된 정보의 확산을 완화할 수 있다. 고객은 아마존 베드록 콘솔에서 자연어 프롬프트를 입력하여 이미지를 생성하거나, 자동 편집을 위해 이미지를 업로드한 후 사이즈를 구성하고 모델이 생성할 변형의 수를 지정하는 방식으로 모델을 사용할 수 있다. 편집 시 고객은 이미지의 일부를 분리하여 세부 사항을 추가하거나 대체할 수 있으며(예: 해변 장면에 서핑보드를 삽입하거나 자동차 광고 배경의 산을 숲으로 대체), 원본과 동일한 스타일로 이미지의 테두리를 확장하여 세부 사항을 추가할 수 있다. AWS는 올해 초 백악관과 전격 합의(commitment)한 내용을 바탕으로 아마존 타이탄이 생성하는 모든 이미지에 기본적으로 보이지 않는 워터마크를 적용하여 AI가 생성한 이미지를 식별할 수 있는 메커니즘을 제공함으로써 잘못된 정보의 확산을 줄이고 안전하고, 보안이 철저하며, 투명한 AI 기술의 개발을 촉진한다. AWS는 모델 제공업체 중 최초로 이미지에 통합된 보이지 않는 내장형 워터마크를 전면 공개했다. 출력 시 이미지에 통합되며 외부 수정에 강하도록 설계되었다.
• 새로운 아마존 타이탄 멀티모달 임베딩(Amazon Titan Multimodal Embeddings) 정식 출시: 아마존 멀티모달 임베딩은 고객이 최종 사용자에게 보다 정확하고 문맥에 맞는 멀티모달 검색 및 추천 결과를 제공할 수 있도록 지원한다. 이 모델은 이미지와 짧은 텍스트를 임베딩(데이터 간의 의미론적 뜻과 관계를 쉽게 이해할 수 있는 수치적 표현)으로 변환하여 고객의 벡터 데이터베이스에 저장한다. 최종 사용자는 이미지와 텍스트 프롬프트의 조합을 사용하여 검색 쿼리를 입력할 수 있다. 이 모델은 검색 쿼리에 대한 임베딩을 생성하고 저장된 임베딩과 일치시켜 최종 사용자에게 보다 정확하고 관련성 높은 검색 및 추천 결과를 제공한다. 예를 들어, 수억 개의 이미지를 보유한 스톡 사진 회사는 이 모델을 사용하여 검색 기능을 강화할 수 있으며, 사용자는 문구, 이미지 또는 이미지와 텍스트의 조합(예: "제공된 이미지와 비슷하지만 하늘이 맑은 이미지 보여줘")을 사용하여 이미지를 검색할 수 있다. 기본적으로 이 모델은 높은 수준의 정확도와 속도가 필요한 검색 환경에 적합한 벡터를 생성한다. 그러나 고객은 속도와 성능을 최적화하기 위해 더 작은 크기(dimension)를 생성할 수도 있다. 아마존 타이탄 멀티모달 임베딩(Amazon Titan Multimodal Embeddings)은 검색 및 개인화와 같은 사용 사례를 위해 단일 단어, 구문 또는 대용량 문서와 같은 텍스트 입력을 임베딩으로 변환하는 데 사용되는 기존 아마존 타이탄 텍스트 임베딩 모델에 결합된다.
새로운 기능 통해 고객이 사용 사례와 비즈니스 요구 사항에 가장 적합한 모델을 효율적으로 평가•비교•선택 가능
오늘날 기업은 생성형 AI 애플리케이션을 구동할 수 있는 다양한 모델 옵션을 보유하고 있다. 기업은 사용 사례에 맞는 정확도와 성능의 적절한 균형을 맞추기 위해 모델을 효율적으로 비교하고 선호하는 메트릭에 따라 최상의 옵션을 찾아야 한다. 모델을 비교하기 위해 먼저 벤치마크 식별, 평가 도구 설정 및 평가 실행을 위해 며칠을 할애해야 한다. 이 모든 과정에는 데이터 과학에 대한 깊은 전문성이 필요하며 시간이 오래 걸려 사람이 직접 검토하는 워크플로우를 통해 판단해야 하는 주관적인 기준(예: 관련성, 스타일, 브랜드 보이스)을 평가하는데 유용하지 않다. 새로운 사용 사례마다 모델 비교에 소요되는 시간과 필요로 하는 전문 지식 및 리소스가 크기 때문에 업무에 가장 적합한 모델을 선택하기가 어려워지고, 이에 따라 기업의 생성형 AI의 활용폭이 제한된다.
현재 프리뷰로 제공되는 아마존 베드록의 모델 평가 기능은 고객이 자동 또는 수동 평가를 통해 특정 사용 사례에 가장 적합한 모델을 평가, 비교 및 선택할 수 있도록 도와준다. 고객은 아마존 베드록 콘솔에서 질문 답변 또는 콘텐츠 요약과 같은 특정 작업에 대해 비교하려는 모델을 선택할 수 있다. 자동 평가의 경우, 사전 정의된 평가 기준(예: 정확성, 견고성, 독성)을 선택하고 자체 테스트 데이터 세트를 업로드하거나 공개적으로 사용 가능한 기본 제공 데이터 세트를 선택하게 된다. 주관적인 기준이나 정교한 판단이 필요한 콘텐츠의 경우, 고객은 몇 번의 클릭만으로 사람 기반의 평가 워크플로를 쉽게 설정할 수 있다. 이러한 워크플로는 고객의 사내 인력을 활용하거나 AWS에서 제공하는 관리형 인력을 사용하여 모델 응답을 평가한다. 사람이 직접 평가하는 동안 고객은 사용 사례별 메트릭(예: 관련성, 스타일, 브랜드 보이스)을 정의한다. 고객이 설정 프로세스를 완료하면 아마존 베드록이 모델을 평가하고, 주요 기준에 따라 모델이 어떻게 수행되었는지 쉽게 이해할 수 있도록 보고서를 생성하므로 최적의 절충점을 찾아 사용 사례에 가장 적합한 모델을 신속하게 선택할 수 있다.
새로운 모델 맞춤화 기능으로 고객이 AWS에서 안전하고 비공개 상태로 데이터를 최대한 활용할 수 있도록 지원
기업은 풍부한 데이터 소스의 가치를 극대화하여 회사의 스타일, 음성, 서비스를 반영한 맞춤화를 통해 뛰어난 사용자 경험을 큰 규모로 제공하기를 원한다. 아마존 베드록에서 제공하는 새로운 특화 기능은 고객이 자체 데이터로 모델을 비공개로 안전하게 개인화하여 차별화된 생성형 AI 기반 애플리케이션을 구축할 수 있도록 지원한다.
날리지베이스 포 아마존 베드록(Knowledge Bases for Amazon Bedrock), 상황별로 적합한 기업 데이터를 활용해 모델 응답 맞춤화: 기업은 기존 모델을 독점 데이터로 보완하여 보다 관련성 있고 정확한 응답을 생성하고자 한다. 모델에 최신 정보를 제공하기 위해 고객이 문서 저장소, 데이터베이스 및 API를 비롯한 여러 소스의 데이터로 프롬프트를 보강하여 모델 응답에 대한 사용자 지정이 가능한 기술인 검색 증강 생성(Retrieval Augmented Generation, 이하 RAG)을 활용한다. 이제 정식 출시된 날리지베이스 포 아마존 베드록은 챗봇 및 질문 답변 시스템과 같은 사용 사례에 보다 정확하고 상황에 맞는 응답을 제공하기 위해 모델을 RAG용 독점 데이터 소스에 안전하게 연결한다. 지식베이스(knowledge base)은 완벽하게 관리되므로 고객이 데이터의 위치를 지정하기만 하면 지식베이스(Knowledge Bases)가 텍스트 문서를 가져와 데이터를 벡터 데이터베이스에 저장하거나 고객을 대신해 설정한다. 사용자 쿼리가 들어오면 아마존 베드록이 프롬프트를 보강하는 데 필요한 텍스트를 가져와서 모델에 프롬프트를 전송하고 응답을 반환하는 방식으로 RAG를 오케스트레이션(orchestration)한다. 날리지베이스 포 아마존 베드록은 아마존 오픈서치(Amazon OpenSearch)를 비롯한 벡터 기능이 있는 데이터베이스와 파인콘(Pinecone) 및 레디스 엔터프라이즈 클라우드(Redis Enterprise Cloud)와 같은 널리 사용되는 데이터베이스를 지원하며, 빠른 시일 내에 아마존 오로라(Amazon Aurora) 및 몽고DB(MongoDB)도 지원할 예정이다.
• 아마존 베드록에서 코히어 커맨드, 메타 라마 2, 아마존 타이탄 모델 미세 조정 가능, 앤트로픽의 클로드2에 대한 지원도 빠른 시일 내 제공: 기업은 RAG 외에도 미세 조정을 활용하여 특정 작업(예: 텍스트 생성)에 대해 모델을 추가로 학습시킬 수 있다. 또한, 레이블이 지정된 데이터 세트를 사용하여 모델의 매개 변수를 비즈니스에 맞게 조정하고, 기업과 최종 사용자가 사용하는 어휘 및 용어를 통해 지식을 확장할 수 있다. 예를 들어, 리테일 고객은 제품 설명 데이터 세트에 대한 모델을 미세 조정하여 브랜드 스타일을 이해하고 웹사이트에 대한 보다 정확한 설명을 생성할 수 있다. 이제 아마존 베드록은 아마존 타이탄 텍스트 익스프레스(Amazon Titan Text Express), 아마존 타이탄 텍스트 라이트(Amazon Titan Text Lite), 아마존 타이탄 멀티모달 임베딩(Amazon Titan Multimodal Embeddings), 아마존 타이탄 이미지 생성기(Amazon Titan Image Generator) 프리뷰와 함께 코히어 커맨드 및 메타 라마 2에 대한 완전 관리형 미세 조정을 지원한다. 따라서 고객은 라벨이 지정된 데이터 세트를 사용하여 특정 작업에 대한 모델 정확도를 높일 수 있다. 또한, AWS 고객은 곧 데이터 소스를 통해 클로드 2의 성능을 미세 조정할 수 있게 된다. 모델을 미세 조정하기 위해서는 먼저 모델을 선택하고 아마존 베드록을 사용해 사본을 만들어야 한다. 그런 다음 고객은 아마존 S3(Amazon S3)에서 레이블이 지정된 예제를 지정한다. 아마존 베드록은 이러한 예시를 통해 모델을 점진적으로 학습시키고(복사된 모델에 새로운 정보를 보강), 그 결과 더욱 정확하고 관련성 높은 맞춤형 응답을 제공하는 개인화된 미세 조정 모델이 탄생한다. 고객 데이터는 전송 중 및 미사용 시 암호화되므로 모든 중요한 고객 데이터는 안전하게 비공개로 유지된다. AWS 및 타사 모델 제공업체는 기본 모델을 학습시키기 위해 아마존 베드록의 입력값 또는 출력값을 사용하지 않는다.
에이전트 포 아마존 베드록(Agents for Amazon Bedrock) 사용 시 생성형 AI 애플리케이션 통해 회사 시스템과 데이터 소스를 사용한 다단계 작업 지원
모델은 대화하고 새로운 콘텐츠를 만드는 데 효과적이다. 다만 특정 조치를 취하고 문제를 해결하며 다양한 시스템과 상호 작용하여 여러 단계의 작업(예: 여행 예약 또는 교체 부품 주문)을 완료할 수 있다면 더 많은 가치를 제공할 수 있다. 이를 위해서는 모델을 회사 데이터 소스, API, 내부 및 외부 시스템과 연결하기 위한 맞춤형 통합 작업이 필요하다. 개발자는 모델, 시스템, 사용자 간의 상호 작용을 조율하는 코드를 작성하여 애플리케이션이 일련의 API 호출을 논리적 순서대로 실행할 수 있도록 해야 한다. 모델을 데이터 소스와 연결하려면 개발자는 모델이 작업에 대한 응답을 사용자 지정할 수 있도록 RAG를 구현해야 하며, 최종적으로 개발자는 필요한 인프라를 프로비저닝(provisioning)하고 관리해야 할 뿐만 아니라 데이터 보안 및 개인정보 보호 정책을 수립해야 한다. 이러한 과정은 시간이 많이 걸리고 전문 지식이 필요하기 때문에 생성형 AI 애플리케이션의 개발 속도가 느려진다.
생성형 AI 애플리케이션은 정식 출시된 완전 관리형 에이전트 포 아마존 베드록을 통해 회사 시스템과 데이터 소스를 사용하여 다단계 작업을 실행할 수 있다. 에이전트는 제품 가용성에 대한 질문에 답변하거나 주문을 받는 등 대부분의 비즈니스 작업을 계획하고 수행할 수 있다. 고객은 간단한 설정 프로세스를 통해 에이전트를 생성할 수 있다. 먼저 원하는 모델을 선택하고 자연어로 몇 가지 지침(예: "당신은 친절한 고객 서비스 에이전트입니다", "재고 시스템에서 제품 재고 확인")을 작성하고 회사의 엔터프라이즈 시스템 및 지식베이스(Knowledge Bases)에 대한 액세스 권한을 제공할 수 있다. 에이전트는 자동으로 요청을 분석하고 논리적 순서로 분류하여 모델의 추론 기능을 사용하여 필요한 정보를 결정한다. 그런 다음 호출할 API를 식별하고 요청을 처리하기 위해 언제 호출할지 결정하여 조치를 취한다. 또한 에이전트는 정확하고 적절한 응답을 제공하기 위해 독점 데이터 소스에서 필요한 정보를 검색한다. 에이전트는 매번 백그라운드에서 이 프로세스를 안전하게 비공개로 수행하므로 고객이 프롬프트를 엔지니어링하거나 세션 컨텍스트를 관리하거나 시스템을 수동으로 조정할 필요가 없다. 고객은 아마존 베드록을 위한 에이전트를 통해 생성형 AI 애플리케이션 개발의 정확성 및 속도를 향상시킬 수 있다.
가드레일 포 아마존 베드록(Guardrails for Amazon Bedrock) 통해 애플리케이션 요구 사항과 책임 있는 AI 정책을 기반으로 모델 전반에 대한 안전 장치 구현 가능
기업은 관련성 높고 안전한 사용자 경험을 위해 생성형 AI 애플리케이션 내에서 상호작용을 관리해야 할 필요성을 인식하고 있다. 많은 모델이 빌트인 컨트롤(built-in control)을 사용하여 바람직하지 않거나 유해한 콘텐츠를 필터링하지만, 기업은 비즈니스와 관련된 주제에 집중하고, 회사 정책에 부합하며, 책임 있는 AI 원칙을 준수하도록 상호 작용을 추가로 맞춤화하길 원한다. 예를 들어, 은행에서는 투자 조언을 제공하지 않고, 경쟁사에 대한 질문을 피하며, 유해한 콘텐츠를 제한하도록 온라인 어시스턴트를 구성할 수 있다. 또 다른 예로, 고객 서비스 통화 후 통화 요약에서 개인 식별 정보(PII)를 삭제해야 할 수도 있다. 조직은 모델을 변경하거나, 여러 모델을 사용하거나, 여러 애플리케이션에 걸쳐 정책을 복제해야 할 수 있으며, 이러한 모든 영역의 환경설정을 동시에, 일관적으로 배포할 수 있는 간단한 방법을 원한다. 이러한 종류의 보호 기능을 갖춘 맞춤형 보호 시스템을 구축하고 이를 애플리케이션에 통합하려면 고도의 전문 지식이 필요하며, 이러한 프로세스는 수개월이 걸릴 수 있다. 기업은 관련성 높은 사용자 경험을 제공하고 보다 안전한 기술 사용을 지원하기 위해 생성형 AI 애플리케이션에서 주요 정책과 규칙을 시행할 수 있는 간소화된 방법을 원한다.
현재 프리뷰로 제공되는 가드레일 포 아마존 베드록은 사용 사례와 책임 있는 AI 원칙에 따라 맞춤화된 생성형 AI 애플리케이션에 대한 보호 장치를 구현하여 고객이 사용자 상호 작용의 안전성과 개인 정보 보호를 강화할 수 있도록 지원한다. 가드레일은 애플리케이션 내에서 바람직하지 않거나 유해한 콘텐츠에 대해 아마존 베드록의 모델이 대응하는 방식에 일관성을 부여한다. 고객은 가드레일을 아마존 베드록의 모든 대규모 언어 모델(LLM)뿐만 아니라 미세 조정된 모델에도 적용할 수 있고, 에이전트 포 아마존 베드록과 함께 사용할 수 있다. 아마존 베드록 콘솔에서 가드레일을 만들기 위해서는 자연어 설명으로 시작하여 애플리케이션의 컨텍스트 내에서 거부되는 주제를 정의해야 한다. 또한 고객은 혐오 발언, 모욕, 성적인 언어, 폭력 등에 대한 임계값을 설정하여 유해한 콘텐츠를 원하는 수준으로 필터링할 수 있다. 2024년 초에는 모델 응답에서 PII를 삭제하고, 욕설 필터를 설정하고, 사용자 지정 단어 목록을 제공하여 사용자와 모델 간의 상호 작용을 차단할 수 있게 될 예정이다. 가드레일은 사용자 쿼리와 모델 응답을 모두 자동으로 평가하여 제한된 카테고리에 해당하는 콘텐츠를 감지하고 방지한다. 고객은 다양한 사용 사례를 지원하기 위해 여러 가드레일을 생성하고 여러 모델에 동일한 가드레일을 적용할 수 있다. 가드레일 포 아마존 베드록은 일관된 사용자 경험을 제공하고 생성형 AI 애플리케이션 전반에서 안전 및 개인정보 보호 제어를 표준화함으로써 고객의 안전한 혁신을 지원한다.
덴츠(Dentsu)는 세계 최대의 통합 마케팅 및 기술 서비스 제공업체 중 하나다. 덴츠의 혁신 및 신흥 기술 담당 수석 부사장인 브라이언 클로흐코프 (Brian Klochkoff)는 "덴츠는 더 나은 사회를 만들고자 하는 브랜드에게 마케팅, 기술, 컨설팅을 융합한 사람 중심의 변화를 선사하고 있다”며 “이 과정에서 생성형 AI는 고객을 위한 규모와 속도를 제공하는 전 세계 72,000명으로 이루어진 팀의 능력을 대체하는 것이 아니라 강화하고 있다”고 말했다. 이어 그는 "특히 아마존 베드록은 제품 및 엔지니어링 팀 전반이 사용할 수 있도록 타사 모델을 배포하는 엔터프라이즈급 제어 기능과 사용 편의성을 제공한다. 이를 통해 덴츠는 가장 뛰어난 최신 생성형 AI를 통해 안전하고 책임감 있는 영역에서 혁신하는 동시에 고객을 위한 최첨단 기회를 창출할 수 있게 됐다”고 덧붙였다.
드루바(Druva)는 선도적인 대규모 서비스형 소프트웨어(Software as a Service, SaaS) 솔루션을 통해 모든 조직의 사이버, 데이터 및 운영 회복탄력성을 지원한다. 드루바 제품 및 생성형 AI 담당 부사장인 데이비드 길데아(David Gildea)는 "정기적으로 변경되는 실시간 데이터를 애플리케이션에 통합하는 아키텍처를 수동으로 구축하려면 많은 시간과 노력이 필요하기에 이 프로세스를 자동화할 수 있는 방법을 모색했다”며 "드루바는 IT 팀이 회사 정보에 액세스하고 자연어로 작업을 수행하는 데 사용할 수 있는 AI 코파일럿 서비스 드루(Dru)를 다양한 기반 모델에 관리된 안전한 액세스를 제공하는 아마존 베드록 상에서 구현했다”고 말했다. 이어 그는 ”이 다음 단계로 드루바는 에이전트와 날리지베이스를 드루에 통합하여 RAG를 간단하게 구현 및 자동화해 최종 사용자 경험을 개선하고, 이를 통해 다른 플랫폼의 유사한 모델에 비해 70% 향상된 응답 정확도, 50% 향상된 응답 시간, 50% 절감된 비용을 제공할 예정이다. 또한 에이전트 포 아마존 베드록 및 날리지베이스 포 아마존 베드록을 통해 지원 티켓 생성과 같은 새로운 기능을 보다 신속하게 추가할 수 있으며, 드루를 다시 엔지니어링할 필요 없이 고객에게 최신 생성형 AI 기반 솔루션을 제공할 수 있다”고 덧붙였다.
고대디(GoDaddy)는 2천만 명 이상의 고객에게 서비스를 제공하는 선도적인 도메인 등록기관이자 상거래 및 웹 호스팅 회사이다. 고대디 데이터 및 분석 최책임자인 트래비스 뮬레스타인(Travis Muhlestein)은 "제빵사에서 배관공에 이르기까지 일상적인 기업가들이 온라인에서 비즈니스를 구축하기 위해 고대디를 이용하고 있다”며 “고대디는 이러한 기업가들이 기존 대형 브랜드와 경쟁하고, 나아가 차세대 대형 브랜드가 될 수 있도록 지원하는 과정에서 생성형 AI에 많은 기대를 걸고 있다”고 말했다. 이어 그는 "고대디는 AWS가 보여준 고객에 대한 헌신, 클라우드 서비스 대중화의 여정, 그리고 모든 규모의 비즈니스가 생성형 AI에 액세스할 수 있도록 하는 현재의 사명을 바탕으로 오랫동안 AWS와 협력해왔다”며 “아마존 베드록은 고대디의 AI 플랫폼에서 중요한 역할을 하고 있으며, 내부 개발 패턴을 가속화하기 위해 아마존 타이탄 텍스트 익스프레스를 사용할 계획이다”고 말했다. 그는 “특히 소규모 기업이 브랜드 아이덴티티를 공고히 하고 비즈니스를 기하급수적으로 발전시킬 수 있는 전문적인 마케팅 자산을 생성하는 데 도움이 될 수 있는 아마존 타이탄 이미지 생성기(Amazon Titan Image Generator)를 시험해보게 되어 기대가 크다”고 덧붙였다.
커넥티드 카 서비스 및 교통 분석 분야의 글로벌 리더 인릭스(INRIX)의 CEO 브라이언 미스텔레(Bryan Mistele)는 "인릭스가 고객에게 제공하는 인사이트는 방대한 양의 데이터를 기반으로 하기에 새로운 인과관계 플랫폼 내 데이터 분석을 위해서 가장 효율적이고 효과적인 생성형 AI 솔루션을 필요로 했다”며 "아마존 베드록의 모델 평가 기능은 성능, 지연 시간, 비용에 대한 수치를 집계해 인릭스의 요구에 적합한 기반 모델을 식별하는 프로세스를 간소화하고, 며칠가량의 소요 시간을 몇 분으로 단축시켰다”고 말했다. 이어 그는 ”정교한 판단이 필요한 콘텐츠의 경우, 모델의 응답 평가와 챗봇 애플리케이션의 도메인 및 브랜드 보이스 반영 정확도를 판단하기 위해 내부 직원을 대규모로 활용한다”며 “시각적이고 종합적인 결과 보고서를 통해 작업에 적합한 모델을 선택했다는 확신을 가질 수 있을 뿐만 아니라 사람, 도시, 비즈니스의 발전을 위한 혁신적인 서비스 제공에 집중할 수 있게 됐다”고 덧붙였다.
몽고DB(MongoDB)는 소프트웨어와 데이터의 힘을 통해 산업을 창조, 전환, 혁신할 수 있도록 지원한다는 사명을 안고 있다. 몽고DB 최고 제품 책임자 사히르 아잠(Sahir Azam)은 "산업 전반에 걸쳐 점점 더 많은 고객이 차세대 애플리케이션을 구축하기 위해 생성형 AI를 활용하고자 하지만, 많은 고객이 데이터 프라이버시와 AI 기반 시스템의 결과물의 정확성 보장에 대해 우려하고 있다”며 "고객의 요구에 부응하기 위해 몽고DB 아틀라스(MongoDB Atlas)를 아마존 베드록의 지식베이스(Knowledge Bases)로 이용 가능하게 했다. 이를 통해 공동 고객은 운영 데이터를 기반으로 안전하게 생성형 AI 애플리케이션을 구축하여 신뢰와 정확성을 갖춘 개인화된 경험을 선사할 수 있다”고 말했다. 이어 그는 “이를 통해 고객은 업계 최고의 FM에 액세스하고 몽고DB 아틀라스 벡터 서치(MongoDB Atlas Vector Search)에서 처리된 데이터를 사용하여 올바른 컨텍스트 내에서 보다 관련성 높은 결과를 제공하는 애플리케이션을 만들 수 있다”며 “날리지베이스 포 아마존 베드록에 내장된 데이터 개인 정보 모범 사례를 활용하면 고객은 생성형 AI의 운영 비용을 줄이고 기술 배포에 보다 집중해 AWS 상에서 뛰어난 최종 사용자 경험을 제공할 수 있다”고 말했다.
오퍼업(OfferUp)은 미국 지역 구매자와 판매자를 위한 최대 규모의 모바일 마켓플레이스 중 하나로, 고유의 간편하며 신뢰할 수 있는 경험을 제공함으로써 지역 사회에서 사람들의 거래 방식을 변화시키고 있다. 오퍼업 최고 기술 책임자 멜리사 바인드(Melissa Binde)는 "매일 수백만 건의 목록이 게시되는 상황에서 사용자를 위한 맞춤형 검색 및 추천 환경을 지속적으로 개선하는 것이 중요하다”며 "이러한 목표를 달성하기 위해 최첨단 시맨틱(sementic) 검색 기능을 통해 지역 상거래를 혁신하는 것을 목표로 아마존 타이탄 멀티모달 임베딩(Amazon Titan Multimodal Embeddings)을 테스트하고 있다”고 말했다. 이어 그는 “새로운 멀티모달 모델을 사용한 초기 평가에서 키워드 검색에 대한 관련 문서 검색율이 크게 개선된 것을 확인했다”며 “이와 같은 발전은 성공적인 매칭의 속도를 크게 높여 구매자와 판매자 모두에게 도움이 될 것”이라고 말했다.
세일즈포스는 선도적인 AI 고객 관계 관리(CRM) 플랫폼으로, AI, CRM, 데이터를 기반으로 높은 생산성과 신뢰할 수 있는 고객 경험을 제공한다. 세일즈포스 제품 담당 수석 부사장 카우샬 쿠라파티(Kaushal Kurapati)는 "AI는 기업이 새롭고 개인화된 방식으로 고객과 소통할 수 있도록 지원하기 위한 노력의 핵심 요소”라며 "아마존 베드록은 모델에 대한 개방형 생태계(open ecosystem) 접근 방식의 핵심 구성 요소로, 고객 데이터를 기반으로 모델을 원활하게 구축해 세일즈포스 전반의 워크플로에 통합한다. 또한 새롭게 추가된 평가 기능이 친밀도, 스타일, 브랜드 관련성 등의 정성적 측면을 포함한 여러 기준에 따라 초기 모델을 비교해 쉽고 빠른 모델 운영을 지원한다”고 말했다.
[뉴스] AWS, 한국 기업 AI 워크로드 탄소 배출량 절감 지원 
