フロンティアモデルとは、AIシステム、ほぼ常に大規模な基盤モデルであり、現在の能力の最先端を表し、通常、広範なタスクにおいて以前に広く展開されたモデルの性能を上回るものである。LLMやトランスフォーマーのようなより技術的な用語とは異なり、フロンティアモデルは主に政策およびガバナンス用語であり、能力が機関が完全に評価または規制できる速度よりも速く進歩しているため、どのシステムがより厳重な監視を必要とするかを特定するために使用される。
用語の起源
この用語は、OpenAI、Anthropic、Google DeepMindなどの研究所が、最も能力の高いモデルに関する安全性研究とベストプラクティスに焦点を当てた業界団体であるフロンティアモデルフォーラムを設立した2023年頃に普及した。英国のAI安全研究所や、2023年のAI安全サミット後のブレッチリー宣言を含む政策文書も、国際的な協力活動が優先すべきシステムの範囲を定めるために同様の表現を採用し、一般的には非常に大規模な訓練計算量や、サイバーセキュリティや生物兵器設計などの領域でリスクをもたらす可能性のある実証された能力によって定義された。
特徴
フロンティアモデルは通常、固定された技術的閾値ではなく、相対的な位置によって定義される。つまり、ベンチマークやLMArenaなどのコミュニティ評価プラットフォームによって非公式に測定される、一般的なタスクにおける現在の能力の最上位またはその近くにあるモデルは、フロンティアと見なされる。フロンティアの地位は本質的に一時的であり、リリース時にフロンティアだったモデルは、通常、数か月以内に競合他社や後継モデルに追い抜かれる。このラベルは、永続的なカテゴリーではなく、ある時点でのモデルの位置を表す。これらのシステムを訓練する組織であるフロンティア研究所には、OpenAI、Anthropic、Google DeepMind、Meta AI、xAI、そしてDeepSeekやAlibabaのQwenチームなどの中国の研究所がますます含まれている。
政策上の関連性
フロンティアモデルは新しい能力を最初に示すため、展開前テストに関する自主的および規制上のコミットメントの焦点となっている。例えば、いくつかの研究所が採用した責任あるスケーリングポリシーは、能力の閾値に追加の安全対策を結び付けている。EU AI法も同様に、全身的リスクを持つ汎用AIモデルに特別な義務を創設し、部分的には計算量の閾値を通じて運用化されており、フロンティアモデルの概念と同じ根本的な懸念を反映している。つまり、少数の異常に能力の高いシステムは、より小規模または狭いAI製品に適用されるものを超えた監視を正当化するということである。
議論
この用語の批評家は、それがマーケティングラベルとして機能し、研究所の実際の慣行が一致しないかもしれないリーダーシップや安全性への意識を示唆する可能性があり、能力だけでリスクを定義することは、モデルがどのように、誰によって展開されるかを見落とすと主張する。他の人々は、規制上の注意をフロンティアモデルに狭く集中させることで、わずかに遅れたモデルやオープンウェイトモデルに基づくはるかに多くのアプリケーションが十分に監視されないままになる可能性があると指摘する。これらのシステムは、広く展開されると同様のリスクをもたらす可能性があるにもかかわらずである。議論にもかかわらず、この用語は2025年時点でAIガバナンスの議論における標準的な略語として残っている。