コロラドAI法は、2024年にコロラド州で制定された消費者保護法であり、高リスク人工知能システムの使用を規制するものです。これは、AIによる意思決定におけるアルゴリズム差別に対処することを目的とした、米国で初めての包括的な州レベルの法令の1つです。この法律は、雇用、住宅、教育、金融サービスなどに影響を与える、消費者に関する重要な決定を行うAIシステムの開発者と導入者の両方に義務を課しています。
この法律は、「高リスクAIシステム」を、重要な決定を行う、またはその決定に実質的な要因となるAIシステムと定義しています。重要な決定には、雇用、昇進、信用、保険、公共施設へのアクセスなど、消費者に重大な影響を与えるものが含まれます。この法律は、詐欺防止、サイバーセキュリティ、内部業務運営など、特定の限られた目的にのみ使用されるAIシステムには適用されません。ただし、それらが消費者に重大な影響を与える場合は除きます。
背景と立法経緯
コロラド州の立法努力は、人工知能、特に機械学習や生成AIなどの分野における社会的影響に対する国民の懸念の高まりの中で生まれました。連邦政府のAI規制が断片的なままである一方、いくつかの州は独自の規則を提案し始めました。コロラド州の法律は2024年の立法会期で導入され、超党派の支持を得て可決されました。これは、州レベルのAIガバナンスの広範な傾向を反映しています。
この法律は、2024年5月17日にジャレッド・ポリス知事によって署名され、コロラド州は包括的なAI差別法を制定した最初の州となりました。この法律は2026年2月1日に施行される予定であり、関係者が遵守するための時間を確保しています。
主要な規定
開発者の義務
高リスクAIシステムの開発者は、アルゴリズム差別の既知または予見可能なリスクから消費者を保護するために合理的な注意を払わなければなりません。開発者は、以下を含むリスク管理フレームワークを実装する必要があります。
- AI開発を監督するためのガバナンス構造の確立。
- 設計、トレーニング、テストプロセスの文書化。
- 潜在的な差別的な結果を特定するための影響評価の実施。
- システムの機能と制限について導入者への開示の提供。
開発者はまた、法律を遵守するために必要な情報を導入者が利用できるようにする必要があります。これには、システムの意図された用途と既知の制限に関する記述が含まれます。
導入者の義務
高リスクAIシステムを使用する事業体である導入者も、リスク管理フレームワークを実装する必要があります。導入者は以下のことを求められます。
- 高リスクAIシステムを導入する前に影響評価を実施すること。
- 重要な決定にAIシステムが使用される場合に消費者に通知すること。
- 消費者に不利な決定に対して異議を申し立て、人間による審査を要求する機会を提供すること。
- AIシステムの使用と影響評価の記録を少なくとも3年間維持すること。
導入者はまた、使用されるロジックや差別の可能性など、AIシステムの性質と意思決定プロセスを消費者に開示する必要があります。
執行と罰則
コロラド州司法長官は、この法律を執行する独占的な権限を持っています。この法律は私人の訴権を創設するものではありません。つまり、個人が直接訴訟を起こすことはできません。代わりに、司法長官が違反を調査し、民事訴訟を提起し、差止救済と、1回の違反につき最大50,000ドル、一連の違反については最大500,000ドルの民事罰金を求めることができます。
影響評価
この法律の中心的な要件は、影響評価の実施です。これらの評価は、AIシステムの目的、意図された用途、およびアルゴリズム差別の可能性を評価する必要があります。また、システムの設計、トレーニングデータ、検証方法、および導入後の監視と軽減措置も考慮する必要があります。
影響評価は、AIシステムまたはその使用に重大な変更があった場合に更新する必要があります。導入者は評価を少なくとも3年間保持し、要求に応じて司法長官に提供する必要があります。
免除とセーフハーバー
この法律にはいくつかの免除が含まれています。従業員が50人未満で、年間25,000人を超える消費者に関する重要な決定にAIシステムを使用しない中小企業は、特定の要件から免除されますが、基本的な透明性義務には引き続き従う必要があります。
さらに、この法律は、法律を遵守するために合理的な注意を払う開発者と導入者にセーフハーバーを提供します。そのような注意にもかかわらず違反が発生した場合、事業体が通知から60日以内に違反を是正することを条件に、司法長官は執行を追求しないことを選択できます。
他の法律との関係
コロラドAI法は、他の州法または連邦法を優先するものではありません。これは、公民権法や公正住宅法などの既存の差別禁止法を補完するように設計されています。この法律は、私人の訴権を創設しないことを明示していますが、他の適用可能な法律に基づいて個人が請求を行うことを妨げるものではありません。
この法律には、司法長官が法律を実施するための規則を採用することを許可する条項も含まれていますが、2025年初頭の時点で、そのような規則は確定していません。
業界の反応
テクノロジー業界団体を含む企業団体は、複雑な反応を示しました。一部は、明確さとコンプライアンスフレームワークを提供するものとしてこの法律を賞賛しましたが、他の団体は、過度に負担が大きく、既存の規制と重複していると批判しました。消費者擁護団体は、一般的にこの法律を支持し、AI主導の差別から脆弱な人々を保護するために必要なステップと見なしました。
OpenAIやAnthropicなどの主要なAI開発者を含むいくつかの企業は、責任あるAI規制への支持を公に表明していますが、州法のモザイク状の規制を避けるために連邦基準を求めています。この法律がより広範なAI業界に与える影響はまだ不明ですが、他の州の同様の法律に影響を与える可能性があります。
実施スケジュール
この法律は2024年5月に署名され、発効日は2026年2月1日です。この長期にわたるスケジュールは、開発者と導入者に慣行を調整する十分な時間を与えることを目的としていました。コロラド州司法長官事務所は、事業体が義務を理解するのに役立つように、発効日より前にガイダンスを発行することを示しています。
将来の見通し
コロラドAI法は、AIガバナンスにおける重要なマイルストーンを表しています。大規模言語モデルやその他のAI技術が日常生活により統合されるにつれて、明確な法的枠組みの必要性が高まっています。アルゴリズム差別に焦点を当てたこの法律は、他の管轄区域に前例を設定し、連邦法のモデルとして機能する可能性があります。しかし、その成功は、効果的な執行と、AI開発における透明性と公平性を受け入れる企業の意欲にかかっています。