Anthropic Safetyとは、アメリカの人工知能（AI）公益法人であり、カリフォルニア州サンフランシスコに本社を置くAnthropic, PBCの研究および政策活動を指す。2021年に元OpenAI従業員であるダニエラ・アモデイとダリオ・アモデイの兄妹を含むメンバーによって設立されたAnthropicは、信頼性が高く、解釈可能で、制御可能なAIシステムの開発を通じてAI安全性を促進することを目指している。主力製品であるClaudeは、Haiku、Sonnet、Opus、Fableなどの階層で提供される一連の独自大規模言語モデル（LLM）であり、チャットボット、API、およびClaude CodeやCoworkなどのエージェントハーネスを通じて利用可能である。
Anthropic Safetyは、技術研究と企業統治の両方を包含する。同社は、機械的解釈可能性、アライメント、社会的影響に関する研究を行っており、アンドレイ・カーパシー、ジョン・ジャンパー、ヤン・ライク、クリス・オラー、アマンダ・アスケルなどの著名な研究者が在籍している。また、国家安全保障や公的監視などの機密性の高い領域におけるAIの展開に関する政策決定にも関与している。
歴史と設立
Anthropicは2021年1月に、OpenAIの研究担当副社長を務めたダリオ・アモデイとその妹ダニエラ・アモデイを含む7人の元OpenAI従業員によって設立された。同社は2021年5月に1億2400万ドルを調達した。2022年夏、AnthropicはClaudeの最初のバージョンのトレーニングを完了したが、さらなる内部安全性テストの必要性と、AI開発における潜在的に危険な競争を開始することを避けたいという意向を理由に、リリースを2023年3月まで延期した。この慎重なアプローチは、同社の中核的な安全性ミッションを反映している。
2024年、Anthropicはヤン・ライクやジョン・シュルマンなど、OpenAIから複数の著名なAI研究者を採用した。2025年5月、同社はClaude 4を発表し、Model Context Protocol（MCP）コネクタを導入し、リアルタイム情報アクセスのためのウェブ検索APIを開始した。コーディングアシスタントであるClaude Codeは、同月中に研究プレビューから一般提供へと移行した。
安全性研究とアライメント
Anthropicの安全性研究は、AIシステムをより透明にし、人間の意図と整合させることに焦点を当てている。主要な分野には、ニューラルネットワークの内部動作を理解しようとする機械的解釈可能性と、AIが意図通りに動作することを保証することを目的としたアライメントが含まれる。同社は、有害な出力を減らすためのRLHF（人間のフィードバックからの強化学習）やその他のトレーニング技術に関する研究を発表している。
同社の安全性へのアプローチは、製品設計にも及んでいる。例えば、AnthropicはClaudeが広告なしであり続けると述べており、無料のChatGPTに広告を導入したOpenAIなどの競合他社とは対照的である。この決定は、収益化よりもユーザーの信頼と安全性を重視するAnthropicの姿勢と一致している。
軍事および政府契約
Anthropicは米国政府機関と関わりを持ち、Palantirと提携して、国防総省（DoD）や情報コミュニティを含む連邦機関にClaudeを提供している。2025年7月、AnthropicはDoDと2年間で2億ドルの契約を締結し、そのモデルを機密情報ネットワークに統合した。しかし、Anthropicは、その技術が米国人の大規模監視や完全自律型兵器の作成に使用されないことを条件とし、この姿勢が2026年にDoDがこれらの制限の撤去を要求した際の紛争につながった。
2026年2月、DoDはAnthropicを「サプライチェーンリスク」に指定し、軍事請負業者が同社と取引することを禁止した。連邦判事は後にこの決定を「第一修正の報復」として差し止めた。紛争にもかかわらず、Claudeは2026年のイラン戦争および2026年の米国のベネズエラ介入中に使用され、標的識別と攻撃計画を支援したと報告されている。
論争と法的問題
Anthropicは法的および倫理的な論争に直面している。2025年、同社はトレーニングデータに海賊版書籍を使用したことに関連し、著者からの著作権侵害訴訟を15億ドルで和解した。これは、Claudeのトレーニングデータを提供するために「世界のすべての書籍を破壊的にスキャンする」取り組みであるProject Panamaの一部であった。
2025年11月、Anthropicは中国政府支援のハッカーがClaudeを使用して約30の世界的組織に対する自動化されたサイバー攻撃を行い、防御テストを装ってセーフガードを回避したと報告した。2026年2月、Anthropicは中国の競合他社であるDeepSeek、Moonshot AI、MiniMax Groupを知識蒸留「攻撃」で非難し、約2万4000の不正アカウントを使用して1600万以上のチャットを生成したと主張した。2026年6月には、Alibaba Cloudに対しても同様の非難を行った。
将来の見通し
Anthropicは非公開企業であるが、2026年に新規株式公開（IPO）を計画していると報じられている。2026年5月のシリーズH資金調達ラウンドで9650億ドルと評価され、OpenAIと並ぶ世界で最も価値のあるAI専業企業の一つである。同社は、xAIとのColossus 1データセンター利用契約や、2026年5月のソフトウェアスタートアップStainlessの買収など、インフラの拡大を続けている。2026年現在、Anthropicは複雑な地政学的および商業的圧力を乗り越えながらも、その安全性ミッションへのコミットメントを維持している。