人工知能における公平性とは、AIシステムが個人や集団を公平に扱い、人種、性別、年齢、社会経済的地位などの属性に基づく体系的な差別を回避すべきという原則である。これは、データ収集、アルゴリズム設計、展開を含むモデル開発の技術的プロセスと、自動化された意思決定が社会に与える広範な影響の両方を包含する。公平性は争点となる概念であり、複数の数学的定義や哲学的解釈が存在し、Machine learning研究や政策議論において中心的な関心事となっている。
公平性は、単一の普遍的に合意された指標ではなく、しばしば互いに矛盾する一連の基準である。研究者や実務者は、適用状況、法的要件、倫理的コミットメントに基づいて定義を選択する。この分野はコンピュータサイエンス、統計学、法学、社会科学から知見を取り入れ、AIシステムにおける説明責任、透明性、プライバシーの問題と交差する。
歴史的背景と出現
自動化システムにおけるバイアスへの懸念は現代のAIに先立ち、初期の統計的・意思決定支援ツールに現れていた。しかし、「公平性」という用語がMachine learningコミュニティで注目を集めたのは2010年代であり、Deep learningモデルが採用、融資、刑事司法などの高リスク領域で広く展開されるようになった時期である。商業用リスク評価ツールにおける人種バイアスを調査した画期的な研究などが、学術的・公的な精査を促した。
2016年には、Carnegie Mellon Universityや他の機関がアルゴリズム的公平性に関する影響力のある論文を発表し始め、人口統計学的パリティや等化オッズなどの形式的定義を提案した。BAIR (Berkeley AI Research)グループやStanford AI Labの研究者は、バイアスの測定と緩和に関する基礎的な研究に貢献した。2018年までに、Google DeepMindやOpenAIを含む主要テクノロジー企業は、専任の倫理チームを設立し、公平性ガイドラインを公開したが、一部の取り組みは後に解散または再編成された。
公平性の定義：主要な基準
実際にはいくつかの形式的な公平性の定義が使用されており、それぞれ異なる直感を捉えている。人口統計学的パリティは、モデルの肯定的予測が実際の結果に関係なくグループ間で均等に分布することを要求する。等化オッズは、偽陽性率と偽陰性率がグループ間で等しいことを要求し、誤りが体系的に集中しないことを保証する。キャリブレーションは、予測確率が各グループ内の実際の頻度と一致することを要求する。
これらの基準は、ほとんどの現実的な設定では数学的に互換性がなく、Aleksander Madryらを含む研究者によって2019年に証明された結果である。例えば、グループの基本率が同一でない限り、モデルは完全なキャリブレーションと等化オッズを同時に達成することはできない。この不可能性定理は、公平性が本質的に価値判断を伴う選択であり、純粋に技術的な最適化ではないことを意味する。
AIシステムにおけるバイアスの源泉
バイアスはAIシステムのライフサイクルの複数の段階で入り込む可能性がある。データバイアスは、トレーニングデータセットが特定のグループを過小代表しているか、過去の採用決定が特定の人口統計を優遇したなどの歴史的偏見を含む場合に生じる。アルゴリズムバイアスは、バランスの取れたデータでも、モデルアーキテクチャや最適化の選択から生じる可能性がある。展開バイアスは、モデルがトレーニング環境とは異なる文脈で使用され、予期しない格差を引き起こす場合に発生する。
例えば、インターネットテキストでトレーニングされたLarge language modelは、コーパスに存在するステレオタイプを再現する可能性がある。AnthropicやOpenAIの研究者は、生成テキストにおける性別や人種のバイアスを記録しており、キュレーションされたデータセットでのファインチューニングや人間のフィードバックからの強化学習などの緩和技術を促している。コンピュータビジョンでは、画像データセットでトレーニングされたNeural networkが、より肌の色が濃い個人に対して低い精度を示すことがあり、MIT CSAILなどの研究によって強調された問題である。
緩和戦略とツール
公平性を改善する技術は、前処理、処理中、後処理の3つのカテゴリに分類される。前処理方法は、サンプルの再重み付けや機密属性の削除など、トレーニングデータを調整する。処理中方法は、損失関数に公平性制約を追加したり、敵対的トレーニングを使用してグループ固有の誤差を減らすなど、学習アルゴリズムを変更する。後処理方法は、異なるグループに異なる決定閾値を適用するなど、モデルの出力を変更する。
いくつかのオープンソースライブラリがこれらのアプローチを実装しており、IBMのAI Fairness 360やGoogleのWhat-If Toolなどがある。これらのツールにより、実務者は不均等影響や等化オッズなどの指標を測定し、緩和戦略を実験できる。しかし、その有効性は領域によって異なり、すべての文脈で公平性を保証する単一の方法は存在しない。
課題と進行中の議論
大きな課題は、多くのアプリケーションにおける公平性の真実値の欠如である。例えば、予測的警察活動では、「真の」犯罪リスクの客観的尺度がなく、モデルがバイアスされているか正確かを評価することが難しい。同様に、信用スコアリングでは、過去の融資結果は過去の差別を反映しているため、それらでトレーニングされたモデルは統計的公平性基準を満たしても不平等を永続させる可能性がある。
もう一つの議論は、公平性と正確性のトレードオフに関するものである。一部の研究は、公平性制約を課すことで全体的なモデル性能が低下することを示し、他の研究はその損失がしばしば小さいか無視できると主張する。この関係はデータセットと選択された公平性指標に依存し、活発な研究領域のままである。
最後に、公平性は透明性や説明責任などの他の倫理原則と交差する。ある指標で公平なモデルは、意思決定が不透明であり、影響を受ける個人が結果に異議を唱えることを困難にする可能性がある。Melanie MitchellやBrian Christianのような研究者は、数学的定義のみに焦点を当てるのではなく、AI展開の社会的文脈を考慮したより広範なアプローチを主張している。
今後の方向性
AIシステムが日常生活にますます統合されるにつれて、公平性は重要な研究領域であり続けるだろう。新たな研究は、画像やテキストを生成するGenerative AIシステムなどの生成モデルや、逐次的な決定がバイアスを複合させる強化学習における公平性を探求している。コンピュータ科学者、法学者、社会科学者の間の学際的協力は拡大しており、欧州連合などの規制枠組みは、高リスクAIアプリケーションに対する公平性評価を義務付け始めている。
より堅牢なData AugmentationやModel Pruning技術などの技術的進歩も、より公平なモデルに貢献する可能性がある。しかし、多くの専門家は、公平性は完全に自動化できず、継続的な人間の判断と制度的監視を必要とすると警告している。この分野は依然として動的で争点のある空間であり、正義と技術に関するより広範な社会的問題を反映している。