AIにおけるバイアスは、アルゴリズムバイアスとも呼ばれ、コンピュータ化された社会技術システムにおいて、アルゴリズムの意図した機能とは異なる形で、あるカテゴリーを別のカテゴリーよりも優遇するなど、不公平な結果を生み出す体系的かつ反復的な有害な傾向を指す。このバイアスは、意図的に偏った設計上の決定や、データのコード化、収集、選択、またはアルゴリズムの訓練に使用する方法に関する意図的でない、または予期しない使用や決定など、多くの要因から生じる可能性がある。アルゴリズムバイアスの研究は、主に体系的かつ不公平な差別を反映するアルゴリズムに関心があり、検索エンジンの結果、ソーシャルメディアプラットフォーム、その他のアプリケーションで観察されており、プライバシー侵害から人種、性別、セクシュアリティ、民族に関する社会的バイアスの強化に至るまでの影響がある。
アルゴリズムが社会、政治、制度、行動を組織化する能力を拡大するにつれて、社会学者は、予期しない出力やデータの操作が物理世界に影響を与える方法に関心を持つようになった。アルゴリズムはしばしば中立で偏りがないと見なされるため、人間の専門知識よりも大きな権威を不正確に投影することがあり、これは部分的には自動化バイアスという心理現象によるものである。場合によっては、アルゴリズムへの依存が、その結果に対する人間の責任を置き換えることがある。バイアスは、既存の文化的、社会的、または制度的な期待、特徴やラベルの選択方法、設計の技術的限界、またはソフトウェアの初期設計で考慮されていなかった予期しない文脈や対象者による使用の結果として、アルゴリズムシステムに入り込む可能性がある。
バイアスの源泉
バイアスは、いくつかの方法でアルゴリズムに導入される可能性がある。データセットの構築中に、データは人間が設計したカタログ化基準に従って収集、デジタル化、適応、データベースへの入力が行われる。プログラマーは、プログラムがデータを評価および分類する方法の優先順位や階層を割り当てるため、分類や包含・除外に関する人間の決定が必要となる。一部のアルゴリズムは、人間が選択した基準に基づいて独自のデータを収集し、それが人間の設計者のバイアスを反映することがある。他のアルゴリズムは、人間のユーザーに関連データを処理および表示する際に、類似したユーザーやグループの以前の選択に基づいて情報を選択するなど、ステレオタイプや好みを強化する可能性がある。
データの収集と処理に加えて、バイアスは設計の結果として生じる可能性がある。学校の配置決定など、リソースや精査の割り当てを決定するアルゴリズムは、クレジットスコアのように、類似したユーザーに基づいてリスクを決定する際に、意図せずカテゴリーに対して差別する可能性がある。ユーザーを類似したユーザーと関連付けたり、マーケティング特性を推測したりするレコメンデーションエンジンは、広範な民族的、性別的、社会経済的、または人種的ステレオタイプを反映する不正確な関連付けに依存する可能性がある。結果に含まれるものと除外されるものの基準は、スポンサー航空会社の飛行経路に従わない便を省略するフライトレコメンデーションソフトウェアなど、予期しない結果をもたらす可能性がある。アルゴリズムはまた、不確実性バイアスを示すことがあり、より大きなデータセットが利用可能な場合により自信のある評価を提供するため、結果がより大きなサンプルに偏り、過小評価された集団からのデータを無視する可能性がある。
歴史的背景
初期のコンピュータプログラムは、人間の推論と演繹を模倣するように設計されており、期待される出力を首尾一貫して再現したときに機能していると見なされた。Machine learningとArtificial intelligenceが進歩するにつれて、データ駆動型の意思決定への依存が高まり、バイアスに関する懸念がより顕著になった。2021年の調査では、歴史的バイアス、表現バイアス、測定バイアスを含む複数の形態のアルゴリズムバイアスが特定され、それぞれが不公平な結果に寄与する可能性がある。歴史的バイアスは、データが過去の社会的不平等を反映しているときに生じ、表現バイアスは、特定のグループが訓練データで過小評価されているときに発生し、測定バイアスは、欠陥のあるまたは不完全な指標を使用した結果生じる。
影響分野
アルゴリズムバイアスは、選挙結果からオンライン上のヘイトスピーチの拡散に至るまでの事例で引用されている。また、刑事司法、医療、採用においても生じており、既存の人種的、社会経済的、性別的バイアスを悪化させている。顔認識技術が暗い肌の顔を正確に識別できない相対的な能力は、黒人男性の複数の誤認逮捕に関連しており、これは不均衡なデータセットに起因する問題である。採用において、過去の採用慣行が偏っていた場合、歴史的な履歴書で訓練されたアルゴリズムは男性候補者を優先する可能性がある。医療において、予測モデルは、訓練データの不足により、少数派集団の状態を過小診断する可能性がある。
法的および規制上の対応
AIにおけるバイアスは、最近になって法的枠組みで取り組まれるようになった。2018年に施行された欧州連合の一般データ保護規則には、自動化された意思決定と説明を受ける権利に関する規定が含まれている。2021年に提案され2024年に採択された人工知能法は、バイアスを軽減するための措置を含む、AIシステムに対するリスクベースの要件を確立している。これらの規制は、透明性と説明責任を高めることを目的としているが、多くのアルゴリズムの専有的性質により、執行は依然として困難である。
バイアスへの対処における課題
アルゴリズムバイアスの理解、研究、発見における問題は、通常営業秘密として扱われるアルゴリズムの専有的性質のために続いている。完全な透明性が提供されたとしても、特定のアルゴリズムの複雑さは、その機能を理解するための障壁となる。さらに、アルゴリズムは、分析のために予測または容易に再現できない方法で、入力または出力に応じて変化または応答する可能性がある。多くの場合、単一のウェブサイトまたはアプリケーション内であっても、調査すべき単一のアルゴリズムは存在せず、同じサービスのユーザー間であっても、相互に関連する多くのプログラムとデータ入力のネットワークが存在する。
軽減アプローチ
研究者と実践者は、AIにおけるバイアスを軽減するためのさまざまなアプローチを開発してきた。これには、データセットのバランスを取るための前処理技術、モデル訓練中に公平性制約を組み込む処理中方法、出力への後処理調整が含まれる。例えば、Data Augmentationは、過小評価されたグループの合成例を生成することにより、表現バイアスに対処するのに役立つ。人口統計的パリティや等化オッズなどの公平性指標は、バイアスを定量化および監視するために使用される。しかし、公平性と正確性の間にはトレードオフがしばしば存在し、公平性の単一の定義が普遍的に適用されるわけではない。
将来の方向性
AIシステムが社会により統合されるにつれて、バイアスへの対処は重要な課題であり続けている。コンピュータ科学者、社会学者、倫理学者、法律学者の間の学際的協力が不可欠である。OpenAI、Anthropic、Google DeepMindなどの組織は、公平性とバイアスに関する研究を発表しているが、そのアルゴリズムは依然として大部分が専有的である。モデルの決定をより解釈可能にすることを目的とした説明可能なAIの開発は、活発な研究分野である。最終的に、バイアスを減らすには、技術的解決策だけでなく、アルゴリズムが展開される社会的および制度的文脈の継続的な精査も必要である。