Amazon Bedrock는 아마존 웹 서비스(AWS)가 제공하는 클라우드 컴퓨팅 서비스로, 생성형 인공지능 애플리케이션을 구축하기 위한 플랫폼이다. 2023년에 출시된 이 플랫폼은 여러 AI 기업의 파운데이션 모델(FM)에 접근할 수 있는 통합 API와 관련 도구를 제공한다. Bedrock는 서버리스 컴퓨팅 서비스로, Microsoft Foundry 및 구글 클라우드 플랫폼과 같은 유사한 기업용 AI 플랫폼과 경쟁한다.
이 서비스는 기본 인프라를 추상화하여 개발자가 서버를 관리하거나 각 모델 제공업체와 직접 협상하지 않고도 대규모 언어 모델 및 기타 AI 모델을 애플리케이션에 통합할 수 있게 한다. 기업용으로 설계되었으며, AWS 생태계 내에서 보안, 규정 준수, 확장성을 강조한다.
역사
Amazon은 2023년 4월 13일에 Bedrock를 발표했다. 이 서비스는 2023년 9월 28일에 일반 공개되었다. 초기에는 Anthropic, AI21 Labs, Amazon 자체를 포함한 기업들의 모델에 대한 접근을 제공했다. 2024년과 2025년에 걸쳐 AWS는 AI 에이전트를 포함하도록 서비스를 확장했으며, 이를 통해 모델이 데이터베이스 및 API와 같은 외부 시스템과 상호작용하여 다단계 작업을 수행할 수 있게 되었다. 이러한 진화는 Bedrock를 기업용 AI 배포의 중심 플랫폼으로 자리매김하게 했으며, 마이크로소프트 애저 및 구글 클라우드의 제품과 직접 경쟁하게 했다.
기능
Bedrock는 생성형 AI 애플리케이션의 개발 및 배포를 간소화하도록 설계된 다양한 기능을 제공한다. 핵심 구성 요소는 통합 API로, 개발자가 최소한의 코드 변경으로 서로 다른 파운데이션 모델 간에 전환할 수 있게 하여 벤더 종속을 피할 수 있다. 이 플랫폼은 OpenAI(통합을 통해), Anthropic 등을 포함한 다양한 제공업체의 모델을 지원하지만, 구체적인 라인업은 시간이 지남에 따라 진화해 왔다.
지식 베이스: 이는 검색 증강 생성(RAG)을 위한 관리형 워크플로우로, 모델이 Amazon S3에 저장된 개인 데이터에서 사실을 가져올 수 있게 한다. 이 기능을 통해 애플리케이션은 독점 기업 문서를 기반으로 질문에 답변할 수 있어, 기본 모델을 재훈련하지 않고도 정확성과 관련성을 개선한다.
가드레일: 플랫폼의 모든 모델에 걸쳐 관리자가 콘텐츠 필터 및 개인 식별 정보 삭제를 설정할 수 있게 하는 보안 기능이다. 이는 AI 배포의 안전성과 규정 준수를 높여, 조직이 규제 요구 사항을 충족하고 민감한 데이터 노출을 방지하는 데 도움을 준다.
기타 기능으로는 모델 평가 도구, 미세 조정 옵션, 최적화된 추론을 위한 AWS Trainium과 같은 다른 AWS 서비스와의 통합이 있다. 이 플랫폼은 또한 머신러닝 워크플로우를 지원하여 팀이 다양한 모델과 구성을 실험할 수 있게 한다.
PartyRock
2023년 11월, Amazon은 생성형 AI 애플리케이션 구축을 위한 웹 기반 노코드 환경인 PartyRock을 출시했다. 이 플랫폼은 자연어 인터페이스를 사용하여 사용자 설명을 소프트웨어 위젯으로 변환한다. 이러한 위젯은 텍스트 기반 프롬프트, 대화형 에이전트, 이미지 생성, 사용자가 업로드한 문서의 요약 및 질의응답을 포함한 특정 AI 동작을 가능하게 한다.
PartyRock은 비개발자의 진입 장벽을 낮추도록 설계되어, 비즈니스 사용자가 AI 도구를 신속하게 프로토타이핑할 수 있게 한다. 처음에는 기간 한정 무료 체험판으로 출시되었지만, AWS는 2025년 초에 서비스를 반복적인 무료 일일 사용 크레딧 모델로 전환하여 지속적인 실험과 소규모 프로덕션 사용에 접근 가능하게 했다.
기업 통합
Bedrock는 더 넓은 AWS 생태계와 긴밀하게 통합되어, 조직이 생성형 AI를 기존 클라우드 인프라와 결합할 수 있게 한다. 여기에는 AWS ID 및 액세스 관리(IAM)를 통한 ID 관리, Amazon CloudWatch를 통한 모니터링, S3의 데이터 저장이 포함된다. 이 서비스의 서버리스 특성상 사용자는 선불 약정 없이 사용한 컴퓨팅 및 모델 사용량에 대해서만 비용을 지불한다.
이 플랫폼은 또한 특정 사용 사례에 대한 성능을 개선하기 위해 모델 최적화 기법과 데이터 증강을 지원한다. 기업의 경우 Bedrock는 네트워크 격리 및 프라이빗 엔드포인트와 같은 기능을 제공하여, 필요 시 데이터가 고객의 가상 사설 클라우드(VPC) 내에 유지되도록 보장한다.