EU AI Act禁止事項は、2024年8月1日に発効した欧州連合の人工知能法（AI法）に基づく一連の禁止事項である。これらの禁止事項は、基本権、安全、民主的価値に許容できないリスクをもたらすと分類されるAIアプリケーションを対象としている。これらは2025年2月2日に適用が開始され、同規制の最初の主要な執行マイルストーンとなった。これらの禁止事項は、高リスク、限定的リスク、最小リスクのAIシステム、および汎用AIモデルも規律する、より広範なリスクベースの枠組みの一部である。
AI法は、2021年4月21日に欧州委員会によって提案され、2024年3月13日に欧州議会で採択され、2024年5月21日にEU理事会で承認された。これは、EU全体でAIに関する共通の規制枠組みを確立し、一般データ保護規則と同様の域外適用を有する。禁止事項は、EUの価値観と根本的に相容れないとみなされるAI利用を防ぐことを目的としており、法執行および安全保障目的のための狭く定義された例外を認めている。
禁止される慣行の範囲
AI法は、行動を歪め、情報に基づく意思決定を損ない、重大な害を引き起こすために、潜在意識的、操作的、または欺瞞的な手法を用いるAIシステムを禁止している。これには、年齢、障害、または社会経済的状況による個人または集団の脆弱性を悪用することが含まれる。また、行動、個人特性、または社会的相互作用に基づいて個人を評価または分類し、不利益な扱いにつながるAIベースの社会スコアリングシステムも禁止されている。法執行目的での公共アクセス可能な空間におけるリアルタイムの遠隔生体認証の使用は、特定の重大犯罪シナリオおよび司法承認を除いて禁止されている。さらに、職場または教育機関で感情を推論するAIシステム、およびインターネットまたはCCTV映像からの非標的型スクレイピングによって顔認識データベースを作成するAIシステムも禁止されている。
法執行および安全保障のための例外
特定の禁止される慣行には、狭い例外がある。リアルタイムの遠隔生体認証は、誘拐、人身売買、または性的搾取の被害者の対象を絞った捜索、または生命または安全への具体的かつ実質的な脅威を防ぐために、法執行機関によって使用される場合がある。これらの使用には事前の司法承認が必要であり、厳格な時間的および地理的制限が課される。感情認識の禁止は、医療現場での苦痛の検出など、医療または安全上の理由で市場に投入されるAIシステムには適用されない。軍事および国家安全保障のAIシステムは、AI法から完全に免除されており、科学研究および開発に使用されるシステムも同様である。
実施と執行
加盟国は、禁止事項の適用を監督する国内管轄当局を指定することが義務付けられた。同法によって設立された欧州人工知能委員会は、協力とコンプライアンスを促進する。禁止される慣行の違反に対する罰則は、最高3500万ユーロまたは企業の全世界年間売上高の7%のいずれか高い方に達する可能性がある。欧州委員会は、特に感情認識および生体認証カテゴリ化に関する禁止事項の範囲を明確にするためのガイドラインを公表している。
AI開発および展開への影響
禁止事項は、AI開発者および展開者に重大な影響を与える。EUで事業を展開する企業は、自社のAIシステムが許容できないリスクカテゴリに該当しないことを確保するために、徹底的な評価を実施する必要がある。これにより、特にGenerative AIシステムや、ユーザー行動を意図せず操作する可能性のあるArtificial intelligenceアプリケーションにおいて、製品設計の調整が生じている。これらの禁止事項は、ソーシャルメディアアルゴリズム、広告、人事で使用されるMachine learningモデルにも影響を与える。これらは操作的または差別的とみなされる可能性があるためである。一部の非EUプロバイダーは、コンプライアンス負担を回避するために、EU内での特定のAI機能へのアクセスを制限することを選択している。
他のAI法条項との関係
禁止事項は、適合性評価、透明性、人間による監督を必要とする高リスクAIシステムの義務とは区別される。Large language modelチャットボットなどの限定的リスクシステムは、ユーザーにAIと対話していることを通知するだけでよい。スパムフィルターなどの最小リスクシステムは規制されていない。ChatGPTなどのシステムに対処するために2023年に追加された汎用AIカテゴリは、透明性および著作権義務を課し、10^25浮動小数点演算を超えるモデルには追加の評価を要求する。禁止事項は独立して機能するため、リスクカテゴリに関係なく、いかなるAIシステムも禁止される慣行に従事することはできない。
世界的な影響と比較
EU AI Act禁止事項は、世界中のAI規制に影響を与えている。カナダやブラジルを含む他の法域は、自国の立法提案でEUの枠組みを参照している。しかし、これらの禁止事項は、自主的なガイドラインとセクター別規則に依存する米国のアプローチよりも制限的である。同法の域外適用により、OpenAIエコシステムやGoogle DeepMindなどのEU外のAIプロバイダーは、EUユーザーにサービスを提供する場合、コンプライアンスを遵守する必要がある。これにより、同様の法律がない地域でも、EU基準に沿った世界的な企業ポリシーが生まれている。
批判と議論
法律学者および業界専門家は、禁止事項の明確性と実現可能性について議論してきた。批評家は、「操作的手法」や「重大な害」などの用語が曖昧であり、一貫性のない執行につながる可能性があると主張している。他の批評家は、法執行の例外が広すぎて、潜在的な悪用を許すと主張している。支持者は、これらの禁止事項が基本権を保護し、世界的なベンチマークを設定すると強調している。欧州委員会は、技術の進化に応じてさらなるガイダンスを発行し、禁止される慣行のリストを更新することを約束しており、同法が新たなリスクに対応し続けることを確保している。
将来の見通し
2025年現在、禁止事項は執行されており、国内当局はコンプライアンス通知の発行を開始している。欧州委員会は、技術開発と調整の必要性を考慮し、2029年までに実施状況をレビューする予定である。禁止事項の成功は、加盟国間の効果的な調整と、新たなAI能力に適応する能力に依存する。EU AI Act禁止事項は、AIを最も有害な極端な形で規制し、イノベーションと個人の権利の保護のバランスを取る先駆的な取り組みを表している。