Anthropic은 샌프란시스코에 본사를 둔 인공지능 연구 및 제품 회사로, 2021년에 다리오 아모데이와 다니엘라 아모데이가 오픈AI를 떠난 여러 연구자들과 함께 설립했습니다. 공동 창립자로는 톰 브라운, 재러드 캐플런, 크리스 올라 등이 있습니다. 이 회사는 AI 안전을 핵심 사명으로 삼고 있으며, 점점 더 강력해지는 모델에는 성능 개발과 병행하여 그에 상응하는 엄격한 안전 연구가 필요하다고 주장합니다. 대표 제품은 수학자이자 정보 이론가인 클로드 섀넌의 이름을 딴 클로드 대규모 언어 모델 제품군입니다.
역사
Anthropic의 공동 창립자 중 다수는 오픈AI의 GPT-3 및 안전 관련 작업에 참여했던 선임 연구원들이었습니다. 다리오 아모데이는 오픈AI의 연구 조직을 이끌었으나, 상업적 배포와 안전 관행 사이의 균형에 대한 이견이 있었다고 알려진 가운데 회사를 떠났습니다. Anthropic은 2023년에 첫 번째 클로드 모델을 출시한 이후, 클로드 2, 클로드 3 및 후속 버전으로 빠르게 발전시켰으며, 독립적인 벤치마크에서 오픈AI의 GPT 모델 및 Google의 제미니와 경쟁하며 성장했습니다. 회사는 Google과 마이크로소프트의 경쟁사인 Amazon으로부터 대규모 투자를 유치했으며, 두 회사 모두 지분을 확보하고 클라우드 컴퓨팅 인프라를 제공했습니다. 이를 통해 Anthropic은 더 넓은 AI 붐 속에서 주요 수혜자이자 경쟁자로 자리매김했습니다.
접근 방식
Anthropic은 스스로를 "AI 안전 회사"라고 설명하며, 훈련된 모델 내부에서 일어나는 일을 이해하는 해석 가능성, 정렬, 레드티밍에 관한 연구를 발표해 왔습니다. 이 회사의 대표적인 훈련 기법인 헌법적 AI는 2022년 논문에서 소개되었으며, 모델이 인간 평가자에게만 의존하지 않고 일련의 명시된 원칙에 따라 자신의 출력을 비판하고 수정하도록 훈련하는 방식입니다. 이는 표준적인 인간 피드백 기반 강화 학습보다 확장 가능한 보완책으로 제시되었습니다. 또한 Anthropic은 "책임 있는 확장 정책"이라는 공개 프레임워크를 발표하여, 모델의 성능 수준에 따라 특정 안전 평가와 보호 장치를 의무화하고 있으며, 이러한 접근 방식은 다른 연구소들에도 영향을 미치고 있습니다.
제품
클로드 챗봇 어시스턴트 외에도 Anthropic은 2025년에 에이전트형 명령줄 코딩 도구인 클로드 코드를 출시했으며, 자사 모델을 활용하는 개발자들을 대상으로 API 비즈니스를 운영하고 있습니다. 이는 오픈AI 및 Google의 개발자 플랫폼과 직접 경쟁합니다. 또한 2024년 말에는 외부 도구와 데이터 소스를 언어 모델에 연결하기 위한 개방형 표준인 모델 컨텍스트 프로토콜을 도입했으며, 이 표준은 Anthropic 자체 제품을 넘어 널리 채택되었습니다.
자금 및 파트너십
Anthropic의 성장은 주로 Amazon과 Google의 대규모 자금 지원에 힘입은 바가 큽니다. 두 회사 모두 스케일링 법칙에 따라 점점 더 커지는 모델을 훈련하는 데 필요한 막대한 클라우드 컴퓨팅 인프라를 제공합니다. 이러한 긴밀한 의존 관계는 소수의 대형 기술 기업에 대한 집중도에 대한 논란을 불러일으키기도 했지만, 2020년대 중반까지 Anthropic은 오픈AI 및 Google DeepMind와 함께 진정한 프런티어 모델을 훈련하는 소수의 연구소 중 하나로 널리 인정받고 있습니다.