Amazon AI 2024는 2024년 동안 Amazon이 도입하거나 발전시킨 인공지능 제품, 서비스 및 연구 노력의 집합체를 포함한다. 이러한 계획의 중심에는 생성형 AI 애플리케이션 구축을 위한 관리형 서비스인 Amazon Bedrock과 회사의 음성 비서인 Alexa에 대규모 언어 모델을 통합하는 것이 있다. 이러한 노력은 Amazon을 AI 산업의 주요 플레이어로 자리매김하며, OpenAI, Anthropic, Google DeepMind의 제공 사항과 경쟁한다.
2024년 Amazon의 AI 전략은 Amazon Web Services(AWS)를 통한 기계 학습 및 클라우드 컴퓨팅에 대한 오랜 투자를 기반으로 한다. 회사는 인프라를 활용하여 기업에 AI 도구를 제공하는 동시에 비용을 절감하고 성능을 개선하기 위해 맞춤형 실리콘을 개발했다. 이 문서는 Bedrock, Alexa의 변혁, 맞춤형 칩 및 전략적 파트너십을 포함한 Amazon의 2024년 AI 포트폴리오의 핵심 구성 요소를 개괄한다.
Amazon Bedrock 및 생성형 AI
2023년에 미리 보기로 출시되고 2024년에 일반 공개된 Amazon Bedrock은 여러 제공업체의 기반 모델을 사용하여 생성형 AI 애플리케이션을 구축하고 확장할 수 있는 완전 관리형 서비스이다. 2024년에 Bedrock은 모델 카탈로그를 Anthropic, AI21 Labs 및 Amazon 자체 Titan 모델의 모델을 포함하도록 확장했다. 이 서비스는 이러한 모델에 액세스하기 위한 통합 API와 함께 미세 조정, 검색 증강 생성 및 에이전트 워크플로 기능을 제공한다.
2024년 4월, Amazon은 다단계 작업을 실행할 수 있는 AI 에이전트를 생성할 수 있는 기능인 Bedrock의 AgentCore의 일반 공개를 발표했다. 2024년 중반까지 Bedrock은 고객이 모델 성능을 최적화하도록 돕기 위해 Model Pruning 및 Data Augmentation 지원을 추가했다. 이 서비스는 또한 엔드투엔드 ML 파이프라인을 위해 AWS의 SageMaker와 통합되어 기업 AI 개발의 중심 허브가 되었다.
Alexa 및 AI 비서 업그레이드
2024년에 Amazon은 생성형 AI 기능으로 Alexa를 개편하는 데 막대한 투자를 했다. 회사는 코드명 "Alexa Plus"인 새로운 Alexa 경험을 발표했으며, 이는 대규모 언어 모델을 사용하여 보다 자연스러운 다중 턴 대화를 가능하게 한다. 이 업그레이드는 Alexa가 단순한 명령-응답 상호작용이 아닌 예약 또는 개인화된 추천 제공과 같은 복잡한 요청을 처리할 수 있도록 설계되었다.
Amazon의 접근 방식은 자체 Large language model 기술을 Anthropic과 같은 파트너의 모델과 통합하는 것이었다. 새로운 Alexa는 2024년 중반에 미국의 제한된 사용자에게 처음 출시되었으며, 연말에 더 광범위한 출시가 계획되었다. 회사는 또한 더 높은 계산 비용을 상쇄하기 위해 ChatGPT Plus와 유사한 프리미엄 기능에 대한 구독 계층을 도입했다.
맞춤형 실리콘: AWS Trainium 및 Inferentia
외부 칩 공급업체에 대한 의존도를 줄이고 비용을 낮추기 위해 Amazon은 맞춤형 AI 칩 개발을 계속했다. 2세대 AWS Trainium 칩인 Trainium2는 2023년에 발표되었고 2024년에 출하되기 시작했다. Trainium2는 대규모 언어 모델 훈련용으로 설계되었으며 이전 세대보다 최대 4배의 성능을 제공한다. Amazon은 또한 추론 워크로드용 Inferentia 칩을 업데이트했으며, Inferentia2는 이미 사용 중이다.
이러한 칩은 Trn2 및 Inf2 제품군과 같은 AWS EC2 인스턴스를 통해 제공된다. 2024년에 Amazon은 Trainium2 인스턴스가 Anthropic을 포함한 여러 고객이 사용 중이며, 이는 모델 훈련에 Trainium을 사용하기로 약속했다고 보고했다. 이 움직임은 NVIDIA가 지배하는 AI 하드웨어 시장과 경쟁하기 위한 전략적 노력으로 여겨졌지만, Amazon은 NVIDIA의 시장 점유율을 직접 도전하지는 않았다.
파트너십 및 투자
2024년 Amazon의 AI 전략에는 중요한 파트너십과 투자가 포함되었다. 2024년 3월, Amazon은 2023년의 초기 12억 5천만 달러에 이어 Anthropic에 40억 달러 투자를 완료했다. 이 투자는 Amazon에 소수 지분을 부여하고 Anthropic의 Claude 모델을 Bedrock에서 사용할 수 있게 했다. Amazon은 또한 최첨단 하드웨어에 대한 액세스를 보장하기 위해 NVIDIA와 협력하여 AWS에서 Nvidia의 H200 GPU를 제공했다.
또한 Amazon은 Intel 및 AMD와 협력하여 AWS 워크로드용 칩을 최적화했다. 회사는 또한 데이터 센터용 맞춤형 Arm 기반 프로세서를 개발하기 위해 Arm Holdings와 협력했지만, 이는 특별히 AI에 초점을 맞추지는 않았다. 이러한 파트너십을 통해 Amazon은 고객에게 다양한 AI 인프라 옵션을 제공할 수 있었다.
연구 및 개발
2024년 Amazon의 AI 연구 노력은 AWS AI Labs와 Alexa AI 팀에 집중되었다. 회사는 Multi-Head Attention 효율성, Reinforcement Learning from AI Feedback (RLAIF)(AI 피드백 기반 강화 학습) 및 Curriculum Learning과 같은 주제에 대한 논문을 발표했다. Amazon 연구원들은 또한 장문 컨텍스트 모델을 위한 Positional Encoding 기술 개발에 기여했다.
2024년에 Amazon은 원래 Transformer (architecture) 논문의 공동 저자인 Jakob Uszkoreit을 포함한 여러 저명한 AI 연구원을 고용하여 대규모 언어 모델 노력을 이끌었다. 회사는 또한 Stanford AI Lab 및 BAIR (Berkeley AI Research)와 같은 대학과의 학술 협력을 지원하는 Amazon Science 프로그램을 유지했다. 이러한 연구 활동은 모델 효율성, 안전성 및 해석 가능성을 개선하는 것을 목표로 했다.
기업 AI 서비스
Bedrock 외에도 Amazon은 2024년에 기업 AI 제공 사항을 확장했다. 비즈니스 사용자를 위한 생성형 AI 비서인 Amazon Q는 2023년 말에 미리 보기로 출시되었고 2024년 4월에 일반 공개되었다. Q는 AWS 서비스와 통합되어 개발자와 비즈니스 분석가가 코드 생성, 데이터 쿼리 및 문서 요약과 같은 작업을 수행하도록 돕는다.
Amazon은 또한 Amazon Connect 콜센터 서비스에 새로운 AI 기능을 도입하여 Generative AI를 사용하여 실시간 에이전트 지원 및 고객 감정 분석을 제공했다. 의료 분야에서 Amazon의 AWS HealthScribe는 AI를 사용하여 환자-의사 대화에서 임상 문서를 생성했다. 이러한 서비스는 실용적인 비즈니스 문제에 AI를 적용하려는 Amazon의 초점을 보여주었다.
경쟁 환경 및 과제
2024년 Amazon은 OpenAI, Anthropic, Google DeepMind 및 Microsoft (AI)의 Microsoft Azure AI 제공 사항과 치열한 경쟁에 직면했다. Amazon의 강점은 클라우드 인프라와 기업 도달 범위에 있었지만 소비자 대상 AI 제품에서는 뒤처졌다. Alexa 업그레이드는 Apple 및 Samsung Electronics와 같은 경쟁업체도 음성 비서를 AI로 강화하고 있었기 때문에 중요한 시험대로 여겨졌다.
Amazon은 또한 AI 안전 및 규제와 관련된 과제에 직면했다. 2024년에 회사는 AI 도구의 잠재적 오용에 대한 조사를 받았으며, 이로 인해 Reinforcement Learning from AI Feedback (RLAIF) 및 기타 안전 조치가 구현되었다. 또한 대규모 모델 훈련의 높은 비용으로 인해 Amazon은 계산 오버헤드를 줄이기 위해 Model Pruning 및 효율적인 Learning Rate Scheduling 기술에 투자하게 되었다.
향후 전망
앞으로 Amazon은 2025년에 AI 기능을 계속 확장할 계획이었다. 회사는 새로운 세대의 AWS Trainium 칩을 출시하고 소매 및 물류 운영에 AI를 더욱 통합할 의사를 발표했다. Amazon은 또한 Neural network 모델을 사용하여 사용자 요구를 예측하는 보다 능동적인 비서로 Alexa를 만드는 것을 목표로 했다.
2024년 말 현재 Amazon의 AI 계획은 여전히 진화 중이며 많은 제품이 베타 또는 제한 출시 상태였다. AI 경쟁에서 Amazon의 성공은 혁신과 비용 효율성의 균형을 맞추고 혼잡한 시장에서 제공 사항을 차별화하는 능력에 달려 있을 것이다. 방대한 클라우드 인프라와 전략적 투자를 통해 Amazon은 Artificial intelligence 분야에서 강력한 경쟁자로 남았다.