Anthropic Safety는 캘리포니아주 샌프란시스코에 본사를 둔 미국 인공지능(AI) 공익 법인인 Anthropic, PBC의 연구 및 정책 노력을 가리킨다. 2021년 OpenAI 전 직원들, 특히 형제인 다니엘라 아모데이(Daniela Amodei)와 다리오 아모데이(Dario Amodei)가 설립한 Anthropic은 신뢰할 수 있고 해석 가능하며 조종 가능한 AI 시스템을 개발하여 AI 안전을 증진하는 것을 목표로 한다. 주력 제품인 Claude는 Haiku, Sonnet, Opus, Fable과 같은 등급으로 제공되는 일련의 독점 대규모 언어 모델(LLM)이며, 챗봇, API, 그리고 Claude Code 및 Cowork와 같은 에이전트 하네스를 통해 접근할 수 있다.
Anthropic Safety는 기술 연구와 기업 거버넌스 모두를 포함한다. 회사는 기계적 해석 가능성, 정렬, 사회적 영향에 대한 연구를 수행하며, 여기에는 안드레이 카파시(Andrej Karpathy), 존 점퍼(John Jumper), 얀 레이크(Jan Leike), 크리스 올라(Chris Olah), 아만다 아스켈(Amanda Askell)과 같은 주목할 만한 연구자들이 포함된다. 또한 국가 안보 및 공공 감시와 같은 민감한 영역에서 AI 배포에 관한 정책 결정에도 참여한다.
역사 및 설립
Anthropic은 2021년 1월 OpenAI의 연구 부사장을 지낸 다리오 아모데이와 그의 여동생 다니엘라 아모데이를 포함한 일곱 명의 전 OpenAI 직원에 의해 설립되었다. 회사는 2021년 5월에 1억 2400만 달러를 모금했다. 2022년 여름, Anthropic은 Claude의 첫 버전 훈련을 완료했지만, 추가 내부 안전 테스트의 필요성과 AI 개발에서 잠재적으로 위험한 경쟁을 촉발하는 것을 피하려는 의도를 이유로 2023년 3월까지 출시를 연기했다. 이러한 신중한 접근 방식은 회사의 핵심 안전 임무를 반영한다.
2024년, Anthropic은 얀 레이크와 존 슐먼(John Schulman)을 포함한 여러 주목할 만한 AI 연구자들을 OpenAI에서 영입했다. 2025년 5월, 회사는 Claude 4를 발표하고, 모델 컨텍스트 프로토콜(MCP) 커넥터를 도입했으며, 실시간 정보 접근을 위한 웹 검색 API를 출시했다. 코딩 어시스턴트인 Claude Code는 같은 달에 연구 미리보기에서 일반 공개로 전환되었다.
안전 연구 및 정렬
Anthropic의 안전 연구는 AI 시스템을 더 투명하게 만들고 인간의 의도와 정렬시키는 데 초점을 맞춘다. 주요 영역에는 신경망의 내부 작동을 이해하려는 기계적 해석 가능성과 AI가 의도된 대로 행동하도록 보장하는 정렬이 포함된다. 회사는 유해한 출력을 줄이기 위해 RLHF(인간 피드백 기반 강화 학습) 및 기타 훈련 기법에 대한 연구를 발표했다.
회사의 안전 접근 방식은 제품 설계에도 확장된다. 예를 들어, Anthropic은 Claude가 광고 없이 유지될 것이라고 밝혔으며, 이는 무료 ChatGPT에 광고를 도입한 OpenAI와 같은 경쟁사와 대조된다. 이러한 결정은 수익화보다 사용자 신뢰와 안전을 강조하는 Anthropic의 입장과 일치한다.
군사 및 정부 계약
Anthropic은 미국 정부 기관과 협력하여 Palantir와 파트너십을 맺고 국방부(DoD) 및 정보 공동체를 포함한 연방 기관에 Claude를 제공했다. 2025년 7월, Anthropic은 DoD와 2년간 2억 달러 규모의 계약을 체결하여 기밀 정보 네트워크에 모델을 통합했다. 그러나 Anthropic은 자사 기술이 미국인의 대규모 감시나 완전 자율 무기 생성에 사용되지 않아야 한다고 명시했으며, 이 입장은 2026년 DoD가 이러한 제한의 제거를 요구하면서 분쟁으로 이어졌다.
2026년 2월, DoD는 Anthropic을 "공급망 위험"으로 지정하고 군사 계약업체가 회사와 거래하는 것을 금지했다. 연방 판사는 나중에 이 결정을 "수정 헌법 제1조 보복"이라고 부르며 차단했다. 분쟁에도 불구하고, Claude는 2026년 이란 전쟁과 2026년 미국의 베네수엘라 개입 중에 사용된 것으로 알려졌으며, 표적 식별 및 타격 계획을 지원했다.
논란 및 법적 문제
Anthropic은 법적 및 윤리적 논란에 직면했다. 2025년, 회사는 훈련 데이터에 불법 복제된 책을 사용한 것과 관련하여 저자들의 저작권 침해 소송을 15억 달러에 합의했다. 이는 "세계의 모든 책을 파괴적으로 스캔"하여 Claude의 훈련 데이터를 제공하려는 노력인 프로젝트 파나마(Project Panama)의 일부였다.
2025년 11월, Anthropic은 중국 정부 후원 해커가 방어 테스트를 수행하는 척하며 안전 장치를 우회하여 약 30개 글로벌 조직에 대한 자동화된 사이버 공격에 Claude를 사용했다고 보고했다. 2026년 2월, Anthropic은 중국 경쟁사인 DeepSeek, Moonshot AI, MiniMax Group을 지식 증류 "공격"으로 비난하며 약 24,000개의 사기 계정을 사용하여 1,600만 건 이상의 채팅을 생성했다고 주장했다. 2026년 6월, Alibaba Cloud에 대해서도 유사한 비난을 제기했다.
향후 전망
Anthropic은 비상장 기업이지만 2026년 기업공개(IPO)를 계획하고 있는 것으로 알려졌다. 2026년 5월 시리즈 H 자금 조달에서 9,650억 달러로 평가된 이 회사는 OpenAI와 경쟁하는 세계에서 가장 가치 있는 AI 순수 기업 중 하나이다. 회사는 xAI와의 Colossus 1 데이터 센터 사용 계약 및 2026년 5월 소프트웨어 스타트업 Stainless 인수를 포함하여 인프라를 계속 확장하고 있다. 2026년 현재, Anthropic은 복잡한 지정학적 및 상업적 압력을 헤쳐 나가면서도 안전 임무에 계속 전념하고 있다.