Claude 3 Haikuは、Anthropicによって開発されたLarge language modelであり、2024年3月にClaude 3ファミリーの最小かつ最速のメンバーとして発表されました。これは、カスタマーサービス、コンテンツモデレーション、リアルタイムデータ処理など、迅速な応答を必要とするアプリケーション向けに設計されており、パフォーマンスとコスト効率のバランスを維持しています。このモデルは、AnthropicのAPIを通じてアクセス可能であり、Claudeコンシューマーアプリケーションの機能（Claudeチャットボットの無料ティアを含む）を支えています。
Claude 3 Haikuは、その姉妹モデルであるClaude 3 OpusやClaude 3 Sonnetと同じ基盤となるTransformer (architecture)アーキテクチャ上に構築されていますが、パラメータ数が削減され、推論パイプラインが最適化されています。これにより、大幅に低いレイテンシーを実現し、短いクエリでは一般的に1秒未満の応答時間となり、インタラクティブおよび組み込みのユースケースに適しています。Anthropicは、Haikuを、速度が最大の推論深度よりも優先されるシナリオにおいて、Claude 2.1のような初期モデルの後継として位置づけています。
アーキテクチャとトレーニング
このモデルは、Multi-Head Attentionメカニズムを備えた高密度のNeural networkを採用しており、教師あり学習とReinforcement Learning from AI Feedback (RLAIF)（AIフィードバックからの強化学習）の組み合わせを使用してトレーニングされています。Anthropicは正確なパラメータ数を開示していませんが、独立したベンチマークによると、Claude 3 Sonnetよりも大幅に小さく、おそらく200〜300億パラメータの範囲であると示唆されています。トレーニングデータには、公開ウェブテキスト、ライセンス取得済みデータセット、より大規模なモデルによって生成された合成データが含まれており、2024年初頭にカットオフがあります。
Haikuは、他のClaude 3モデルと同様に200,000トークンのコンテキストウィンドウを使用し、出力制御のためにTop-P (Nucleus) SamplingとTemperature Scalingをサポートしています。また、トレーニング中に安定性と一般化を向上させるために、Layer NormalizationとDropoutも組み込まれています。このモデルは、エッジデバイス上のメモリフットプリントを削減するためにModel Pruning向けに最適化されていますが、主にクラウドインフラストラクチャ上で実行されます。
パフォーマンスとベンチマーク
公開されているArtificial intelligenceリーダーボードでは、Claude 3 Haikuは、OpenAIのGPT-3.5 Turboなど、同規模のモデルと競争力のあるパフォーマンスを発揮し、より高速な推論を提供します。MMLU（Massive Multitask Language Understanding）ベンチマークでは、Haikuは約75.2%をスコアし、Claude 3 Sonnetの79.0%、Opusの86.8%と比較されます。HellaSwag常識推論テストでは85.9%を達成し、コード生成用のHumanEvalでは73.0%のpass@1に達します。これらの数値は、同規模のオープンウェイトモデルのほとんどを上回りますが、AnthropicとOpenAIのフラッグシップモデルには及びません。
独立したテストによるレイテンシー測定では、100トークンのプロンプトに対する平均タイム・トゥ・ファースト・トークンが0.4秒であり、Sonnetよりも約3倍高速です。これにより、Haikuは特に会話エージェントやリアルタイム翻訳サービスに効果的です。ただし、複雑な数学的推論やマルチステップ計画タスクでのパフォーマンスは著しく低く、GSM8Kベンチマークでは58.3%の精度であり、深い論理的推論における限界を示しています。
デプロイと可用性
Claude 3 Haikuは、Amazon Web Services（AWS）上のAmazon Bedrock、Google Cloud Vertex AI、およびエンタープライズ顧客向けのMicrosoft Azureを通じて、AnthropicのAPIで利用可能です。このモデルはまた、Anthropic独自のClaude.aiプラットフォームにも統合されており、無料ティアのユーザー向けのデフォルトモデルとして機能します。価格は、入力トークン1万あたり0.25ドル、出力トークン1万あたり1.25ドルに設定されており、このクラスで最もコスト効率の高いモデルの1つとなっています。
クラウドデプロイに加えて、AnthropicはGroqと提携し、Groqのカスタム推論ハードウェア上でHaikuを提供しており、高スループットアプリケーションのレイテンシーをさらに削減しています。このモデルはまた、オンプレミス展開向けにSambaNovaのプラットフォームを通じて利用可能です。2024年後半の時点で、Haikuは、自動メール作成、コード補完、ユーザー生成コンテンツのモデレーションなどのユースケースのために、いくつかのGenerative AIスタートアップによって採用されています。
制限と安全性
他のClaudeモデルと同様に、Haikuは、憲法的AI技術と人間のフィードバックの組み合わせを使用して、有害性の回避と安全でないリクエストの拒否に焦点を当ててトレーニングされています。ただし、そのサイズが小さいため、Opusと比較して脱獄の試みに対してより影響を受けやすくなっています。Anthropicは、ニッチなトピックに関する偶発的な事実誤認や、デリケートな主題に関する良性のクエリを過剰に拒否する傾向など、既知の障害モードを文書化した詳細なモデルカードを公開しています。
Haikuは、マルチモーダル機能を持つClaude 3 OpusやSonnetとは異なり、画像入力をサポートしていません。これにより、視覚的推論タスクでの使用が制限されます。さらに、このモデルの知識カットオフは2024年1月であり、外部の検索拡張なしでは、その日付以降のイベントに関する情報を提供できません。
前任者との比較
Claude 3 Haikuは、Anthropicの以前のコンパクトモデルであるClaude 2.1の直接の後継です。Claude 2.1と比較して、Haikuはレイテンシーを50%削減し、標準ベンチマークで20%の改善を提供しながら、同じコンテキストウィンドウを維持しています。古いEncoder-Decoder Architectureアーキテクチャから純粋なデコーダーのみの設計への移行が、これらの向上に貢献しました。Anthropicはまた、Haikuがフォーマット指示に従う際により信頼性が高いと述べており、これは初期モデルの一般的な弱点でした。
このモデルのリリースは、市場をセグメント化するためのより広範な戦略の一部であり、Opusはハイステークスの推論を、Sonnetはバランスの取れたパフォーマンスを、Haikuはコスト重視の高ボリュームアプリケーションをターゲットにしています。これは、OpenAIのGPT-3.5およびGPT-4ラインナップによる同様のティアリングを反映していますが、AnthropicはHaikuの優れた速度対コスト比を強調しています。
今後の方向性
AnthropicはClaude 3 Haikuの特定の後継機を発表していませんが、同社の研究ロードマップは、将来のコンパクトモデルがより効率的なアテンションメカニズムと、場合によってはマルチモーダル入力用のCross-Attentionを組み込むことを示唆しています。Haikuの成功はまた、ハードウェアベンダーに影響を与えており、AMDとIntelは、このモデルの推論パターンに合わせてアクセラレータを最適化しています。2025年初頭の時点で、Haikuは、本番環境で速度と機能のバランスを求める開発者にとって、依然として人気のある選択肢です。