欧州連合の人工知能法（AI法）は、人工知能に関する包括的な法的枠組みを確立し、特に高リスクAIシステムに特化した区分を設けている。健康、安全、または基本権に重大なリスクをもたらすこれらのシステムは、EU市場に投入される前に、厳格な一連の義務の対象となる。この規則は、市民への強固な保護とArtificial intelligenceの利点をバランスさせながら、信頼できるAIを育成し、イノベーションを確保することを目的としている。
AI法の下での高リスク分類は、主に2つのカテゴリーを対象としている。すでにEUの分野別法（医療機器、玩具、機械類など）の対象となっている製品の安全コンポーネントであるAIシステムと、付属書IIIに記載されたスタンドアロンAIシステム（重要インフラ、教育、雇用、法執行、移民、信用スコアリングなどの必須の民間サービスで使用されるものを含む）である。義務はプロバイダー（開発者）に適用され、場合によってはデプロイヤー（利用者）にも適用され、段階的な実施スケジュールが設定されている。
適用範囲と分類基準
AI法は、高リスクAIシステムを、その意図された目的と運営される分野に基づいて定義している。既存のEU法（医療機器規則や機械指令など）で規制されている製品の場合、AIシステムが安全コンポーネントである場合、自動的に高リスクと見なされる。スタンドアロンシステムの場合、分類は、システムが付属書IIIに記載された8つの分野（生体認証、重要インフラ管理、教育および職業訓練、雇用および労働者管理、必須サービスへのアクセス、法執行、移民および国境管理、司法行政など）のいずれかに該当するかどうかに依存する。
欧州委員会は、委任行為を通じて付属書IIIを更新し、リスクの証拠に基づいて特定の使用事例を追加または削除する権限を有する。この動的なアプローチにより、Machine learningやDeep learningモデルの進歩を含む技術的発展に規則を適応させることができる。ただし、この法律には狭い例外が含まれており、付属書IIIに記載されたシステムが健康、安全、または基本権への重大な害のリスクをもたらさない場合、プロバイダーは非分類を主張できるが、国家当局による審査の対象となる。
プロバイダーの義務
高リスクAIシステムのプロバイダーは、システムのライフサイクル全体にわたってコンプライアンスを確保する品質管理システムを実装する必要がある。主な義務には、誤用や脆弱な集団への潜在的な害を含む予見可能なリスクを特定、評価、軽減するリスク管理システムの確立が含まれる。このプロセスは反復的でなければならず、リスク評価の継続的な監視と更新が求められる。
データガバナンスももう1つの重要な要件である。トレーニング、検証、テスト用データセットは、関連性があり、代表的で、差別的な結果につながる可能性のあるバイアスがないものでなければならない。プロバイダーはデータの出所を文書化し、適切なデータクリーニングと準備を確保し、意図された使用の特定の文脈を考慮する必要がある。Neural networkアーキテクチャを含むシステムの場合、これは過学習や特定の集団の過小表現を避けるための厳格な検証を意味する。
技術文書は、システムを市場に投入する前に作成され、システムの目的、設計、開発プロセス、パフォーマンス指標に関する詳細な情報を含む必要がある。この文書は最新の状態に保たれ、要求に応じて国家管轄当局に利用可能でなければならない。さらに、プロバイダーは、特に実世界のデータから継続的に学習するシステムについて、システムの運用のトレーサビリティを可能にする自動ログ機能を実装する必要がある。
適合性評価と登録
高リスクAIシステムがEU市場に投入される前に、適合性評価手順を受ける必要がある。ほとんどのシステムでは、これにはプロバイダー自身の品質管理システムと技術文書に基づく内部評価が含まれる。ただし、生体認証システムなどの特定のカテゴリーでは、指定機関による第三者評価が必要である。評価は、リスク管理、データガバナンス、透明性など、法律に定められた義務への準拠を検証する。
適合性が確立されると、プロバイダーはEU適合宣言書を作成し、CEマークを付ける必要がある。システムはその後、欧州委員会が管理するEU全体のデータベースに登録されなければならない。この登録には、プロバイダーに関する情報、システムの意図された目的、技術文書へのリンクが含まれる。データベースはほとんどの高リスクシステムで公開されているが、法執行および移民アプリケーションでは、安全保障上の利益を保護するためにアクセスが制限されている。
透明性と人間による監視
高リスクAIシステムは、効果的な人間による監視を可能にするように設計されなければならない。これは、自然人（人間）がシステムの出力を理解し、その運用に介入し、必要な場合に決定を覆すまたは逆転できることを意味する。監視のレベルは、リスクとシステムの自律性に比例する必要がある。例えば、雇用スクリーニングで使用されるシステムは、人間の採用担当者が自動化された決定をレビューし、異議を唱えることを可能にしなければならない。
透明性義務はまた、高リスクAIシステムと対話していることをユーザーに通知することを要求する。ただし、文脈から明らかな場合は除く。ディープフェイクなどの合成コンテンツを生成するシステムの場合、プロバイダーは出力が人工的な起源を示す機械可読形式でマークされることを確保しなければならない。これは、現実的な画像、音声、またはテキストを生成できるGenerative AIモデルに特に関連する。
デプロイヤーの責任
デプロイヤー、つまり高リスクAIシステムの利用者は、独自の一連の義務を負う。製造者が提供する使用説明書に従ってシステムを使用し、意図された目的と制限を尊重する必要がある。デプロイヤーはまた、入力データが関連性がありバイアスがないことを確保し、システムがパフォーマンスのドリフトや劣化の兆候について監視されることを確保しなければならない。
雇用の文脈では、デプロイヤーは従業員に高リスクAIシステムの対象であることを通知し、システムのロジックと潜在的な影響について明確な情報を提供しなければならない。信用スコアリングや保険など、個人の権利に影響を与える決定を行うシステムの場合、デプロイヤーは、特にシステムが機密データを処理するか脆弱な集団を含む場合、基本権影響評価を実施しなければならない。
デプロイヤーはまた、システムによって生成された自動ログを維持し、規則で指定された期間（通常6か月、分野別法で別段の定めがない限り）保持する責任がある。国家当局と協力し、害につながる可能性のある重大なインシデントまたは誤動作を報告しなければならない。
ガバナンスと執行
AI法の執行は、国家管轄当局と欧州委員会の間で共有されている。各加盟国は、少なくとも1つの指定機関と1つの市場監視当局を指定しなければならない。欧州委員会は、EU全体での一貫した適用を促進し、技術的および倫理的問題について助言するために、欧州人工知能委員会を設立する。
不遵守に対する罰則は重大である。罰金は、禁止された慣行に関連する違反の場合、最大3,500万ユーロまたは企業の世界年間売上高の7％（いずれか高い方）に達する可能性がある。高リスクシステム義務の不遵守の場合、罰金は最大1,500万ユーロまたは売上高の3％である。当局に誤った情報を提供した場合、より少額の罰金が適用される。
タイムラインと移行期間
AI法は2024年8月1日に発効し、段階的な実施スケジュールが設定されている。ソーシャルスコアリングや操作的手法などの特定のAI慣行の禁止は、2025年2月2日に適用可能となった。高リスクシステムの義務は、システムのカテゴリーに基づいて段階的に導入される。規制製品に組み込まれたものはより長い移行期間があり、2027年8月2日までに完全に適用される。付属書IIIに記載されたスタンドアロン高リスクシステムは、2026年8月2日までに準拠する必要があり、すでに市場にあるシステムにはいくつかの例外がある。
汎用AIモデルのプロバイダー（Large language modelシステムを含む）には、2025年8月2日から適用される追加の透明性義務がある。これには、トレーニングデータの要約の公開と著作権法への準拠の確保が含まれる。この法律はまた、革新的な企業が完全なコンプライアンスが要求される前に監督条件下で高リスクシステムをテストできるようにする規制サンドボックス枠組みを確立している。
産業とイノベーションへの影響
AI法の高リスク条項は、特に規制されたセクター向けのMachine learningシステムを開発しているテクノロジー企業に重大な影響を与える。OpenAI、Anthropic、Google DeepMindなどの企業は、文書化とリスク管理基準を満たすために開発プロセスを適応させる必要がある。AMD、Intel、NVIDIAなどのハードウェアプロバイダー（法律で明示的に名前は挙げられていないが）にとって、この規則はAIアクセラレータの設計方法に間接的に影響を与える。なぜなら、ログ記録とトレーサビリティ機能をサポートする必要があるからである。
中小企業はコンプライアンス負担を満たす上で課題に直面する可能性があるが、この法律には、適合性評価の手数料削減やテスト施設へのアクセスなど、それらを支援する措置が含まれている。この規則はまた、EU全体でのコンプライアンス慣行を調和させるのに役立つ行動規範と標準の開発を奨励している。
全体として、EU AI法は高リスクAIシステムを規制する先駆的な取り組みを表し、AIガバナンスの世界的なベンチマークを設定している。その成功は、効果的な実施、国際協力、安全性とイノベーションのバランスを取る能力に依存する。Artificial intelligenceの分野が進化し続けるにつれて、この法律のリスクベースのアプローチは、高度なAI技術によってもたらされる社会的課題に対処しようとする他の法域のモデルとして機能する可能性がある。