Anthropicは、2021年に元OpenAIの研究者らによって設立されたアメリカの人工知能企業である。。同社は、安全かつ解釈可能な人工知能システムの開発に注力し、特にAIの行動を人間の意図に合わせることに重点を置いている。。主力製品は、大規模言語モデルのClaudeファミリーであり、これらは対話型アシスタント、コーディング支援、企業データ分析など、さまざまな用途で使用されている。。Anthropicは、カリフォルニア州サンフランシスコに本社を置き、OpenAIやGoogle DeepMindなどの企業と競合する、主要な独立系AI研究機関の一つとなっている。
。
同社は、高度なAIの安全性と倫理的影響に関する懸念に対応するために設立された。。創業者には、Dario AmodeiやDaniela Amodeiが含まれ、彼らは以前OpenAIで上級職にあり、GPT-2やGPT-3などのモデルに携わっていた。。AnthropicのAI安全性へのアプローチは、同社が「Constitutional AI」と呼ぶ研究プログラムに基づいており、これはモデルが行動を導くための一連の原則、すなわち「憲法」に従うように訓練し、広範な人間のフィードバックの必要性を減らすことを目的としている。
。
設立と初期の歴史
Anthropicは2021年に、元OpenAI従業員が大半を占める7人のグループによって設立された。。創業チームには、Dario Amodei（元OpenAI研究担当副社長）、Daniela Amodei（元安全性・政策担当副社長）、Tom Brown（GPT-3への主要貢献者）、Chris Olah（元解釈可能性部門責任者）、Jared Kaplan、Jack Clark、Sam McCandlishが含まれていた。。同社は当初、ステルスモードで運営され、Alibaba Cloudの親会社を含む投資家から多額の資金を調達したが、正確な資金調達の詳細は当時公表されなかった。。
2023年初頭、AnthropicはGoogle Cloudとの重要な提携を発表し、これには多額の投資と、モデルの訓練・展開にGoogleのクラウドインフラを使用するというコミットメントが含まれていた。。。同年後半には、Amazon Web Services（AWS）からも主要な投資を受け、AWSは訓練と推論のための主要なクラウドプロバイダーとなった。。。これらの提携により、Anthropicは大規模モデルの訓練に必要な計算リソースを確保した。
。
Constitutional AIと安全性研究
Anthropicの研究の特徴的な側面は、Constitutional AI（CAI）への注力である。。。このアプローチでは、人間のフィードバックのみに依存するのではなく、明示的なルールや原則のセットを用いてモデルを訓練する。。。モデルはまずRLHF（人間のフィードバックからの強化学習）を用いて訓練されるが、その後、「憲法」に基づくプロセスによって洗練される。。。このプロセスでは、モデルが原則のリストに基づいて自身の出力を批評し、修正する。。この方法は、モデルをより役立つ、無害で、誠実なものにするとともに、訓練プロセスをよりスケーラブルで透明性の高いものにすることを目指している。
同社の安全性研究には、解釈可能性に関する研究も含まれており、例えばニューラルネットワークが内部で概念をどのように表現しているかを理解する試みなどがある。。Anthropicは、トランスフォーマー内の「回路」などのトピックに関する論文を発表しており、これはこれらのモデルが実行する計算をリバースエンジニアリングしようとするものである。。この研究は、AIシステムがより高性能になるにつれて、監査可能で信頼できるものにするための広範な取り組みの一部である。
Claudeモデルシリーズ
Anthropicの主力製品ラインは、大規模言語モデルのClaudeシリーズである。。最初のバージョンであるClaudeは2023年3月にリリースされ、その後2023年7月にClaude 2がリリースされ、性能が向上し、コンテキストウィンドウが長くなった。。2024年3月には、AnthropicはClaude 3をリリースした。。これはHaiku、Sonnet、Opusを含むモデルファミリーであり、それぞれ速度と能力のトレードオフが異なる。。Claude 3 Opusは、MMLUテストなどのベンチマークで強い性能を示し、他の主要な研究所のモデルに匹敵するか、それを上回ることが多かった。
。
2024年6月には、AnthropicはClaude 3.5 Sonnetを導入し、推論能力とコーディング能力がさらに向上した。。これらのモデルは、API、claude.aiの消費者向けチャットボット、およびエンタープライズ向けサービスを通じて利用可能である。。Claudeモデルは、コーディング、長文脈の理解、安全性ガイドラインの順守において強い性能で知られている。。金融、ヘルスケア、法務サービスなど、さまざまな分野の企業が、文書分析、コード生成、カスタマーサポートなどのタスクにこれらを使用している。
ビジネスモデルと提携
Anthropicは商業的なビジネスモデルを運営しており、モデルへのAPIアクセスとサブスクリプションサービスを通じて収益を生み出している。。同社はチャットボット向けに無料ティアを提供する一方、個人および企業向けの有料プランも提供している。。クラウドプロバイダーとの主要な提携は、同社の運営にとって重要である。。2023年9月に発表されたAWSとの提携には、40億ドルの投資が含まれ、AWSは主要な訓練・展開パートナーとなった。。この契約により、ClaudeモデルはAWSのマネージドAIサービスであるAmazon Bedrockでも利用可能となった。。同様に、2023年2月に発表されたGoogle Cloudとの提携には、3億ドルの投資が含まれ、Google Cloudはインフラを提供し、後に契約を拡大した。
これらの提携により、Anthropicは急速に事業を拡大することができたが、資金調達と計算リソースの両方を大手テクノロジー企業に依存しているため、同社の独立性に関する疑問も生じている。。2024年時点で、Anthropicは総額70億ドル以上を調達しており、Amazonの投資後の評価額は約180億ドルと報告されている。
。
ガバナンスとAI安全性への提唱
Anthropicは、AI安全性の提唱におけるリーダーとしての立場を確立しており、一部の競合他社と比較して、モデル展開に対してより慎重なアプローチを取ることが多い。。同社は政策議論に関与しており、米国議会での証言や業界イニシアチブへの参加などが含まれる。。2023年には、AnthropicはFrontier Model Forumを共同設立した。。これはOpenAI、Google、Microsoftも参加するグループであり、フロンティアAIモデルの安全かつ責任ある開発を促進することを目的としている。
同社はまた、高度なAIの潜在的なリスク、例えば存在論的リスクについても声を上げており、規制と透明性を提唱している。。同社の「Responsible Scaling Policy」は、ますます高性能になるモデルに関連するリスクを評価し、軽減するための枠組みを概説しており、特定の「AI Safety Level」（ASL）しきい値を設定している。。この方針は、モデルがより強力になるにつれて、適切な安全策が講じられることを保証するように設計されている。
研究貢献とオープンソース
Anthropicはモデルをオープンソースとして公開してはいないが、出版物やツールを通じて、より広範なAI研究コミュニティに貢献している。。同社は、アテンション機構、モデルプルーニング、解釈可能性などのトピックに関する研究を発表している。。また、「Helpful, Honest, Harmless」（HHH）データセットなどのデータセットや評価ベンチマークもリリースしており、これはこれらの次元でモデルを訓練し、評価するために使用される。。Anthropicの解釈可能性に関する研究は特に影響力が大きい。。2022年には、同社は「Toy Models of Superposition」に関する論文を発表し、ニューラルネットワークが次元数よりも多くの特徴をどのように表現するかを探求した。。2023年には、「Extracting Interpretable Features from Claude 3 Sonnet」に関する論文を発表し、欺瞞や迎合などの概念に関連する内部特徴を特定し、操作する技術を実証した。。これらの取り組みは、AIシステムをより理解しやすく、制御可能にするという長期的な目標の一部である。
競争環境と将来展望
Anthropicは、OpenAI、Google DeepMind、Meta AIなどの主要な競合他社が存在する、非常に競争の激しい環境で事業を展開している。。同社は、安全性への注力とConstitutional AIアプローチを通じて差別化を図っている。。しかし、競合他社の急速なリリースサイクルに追いつくことや、大規模モデルの訓練にかかる高コストを管理することなどの課題に直面している。。2024年時点で、Anthropicは製品提供を拡大し続けており、Claudeモバイルアプリのリリースや、「Projects」や「Artifacts」などのコラボレーション作業向けのエンタープライズ向け機能などが含まれる。
Anthropicの将来の方向性は、モデルの継続的なスケーリング、エンタープライズワークフローとのより深い統合、解釈可能性のさらなる進歩を含む可能性が高い。。同社の安全性へのコミットメントは、より広範な業界に影響を与える可能性のある新しいガバナンス枠組みにつながる可能性もある。。AI技術が進化するにつれて、安全性重視の革新者としてのAnthropicの役割は、研究者、政策立案者、業界関係者によって注視されるだろう。
関連項目
参考文献
この記事は、2024年時点の公開情報に基づいている。。最新の詳細については、Anthropicの公式発表および信頼できるテクノロジーニュースソースを参照されたい。。