AI倫理は、人工知能システムの構築と展開に伴う道徳的、社会的、政治的な影響を考察する学際的な分野である。これはAI安全性と重なるが、それよりも広い範囲を扱う。AI安全性は破滅的または存在論的な失敗を防ぐことに焦点を当てる傾向がある一方、AI倫理は差別、プライバシーの喪失、説明責任の侵食、労働力の置き換え、そして最先端システムを管理する少数の企業や政府への権力集中といった、より短期的な害に重点を置く。この分野の実務者には哲学者、コンピュータ科学者、法律家、社会学者が含まれ、その関心事はEU AI法などの枠組みを通じて、ますます企業政策や政府規制に影響を与えている。
主要な関心事
バイアスと公平性は、AI倫理の中で最も研究されているテーマの一つである。機械学習システムはトレーニングデータから統計的パターンを学習するため、そのデータに存在する歴史的な差別を再現し、増幅させることができる。この影響は、採用ツール、信用スコアリング、顔認識などで記録されており、アルゴリズム的バイアスに関する記事で詳しく論じられている。透明性と説明責任は、AIの決定に影響を受ける人々がそれを理解したり異議を唱えたりできるかどうかに関わるものであり、大規模なニューラルネットワークモデルのブラックボックス的な性質によって課題が深刻化している。これが説明可能なAIや解釈可能性という別個の分野を生み出した。プライバシーへの懸念は、モデル構築のために収集される膨大なトレーニングデータと、AIを活用した監視能力の両方から生じる。その他の繰り返し現れるテーマには、大規模モデルのトレーニングと運用にかかる環境コスト、データのラベル付けやコンテンツモデレーションを行う人間のアノテーターの労働条件、そして生成ツールがディープフェイクメディアや、時にAIスロップと呼ばれる低品質の大量生産コンテンツを通じて誤情報の拡散を加速させるリスクが含まれる。
確率的オウム論争
この分野にとって極めて重要な瞬間は、ティムニット・ゲブル、エミリー・ベンダーらが共著した2021年の論文「確率的オウムの危険性について」であった。この論文は、ますます大規模化する言語モデルが、規模に応じてバイアスをコード化するリスクを抱え、多大な環境的・経済的コストを伴い、理解が存在しないのに存在するかのような誤った印象を生み出すと主張した。この批判は後に確率的オウムという用語で要約された。この論文の発表は、ゲブルがGoogleを去った時期と重なり、内部での論文審査をめぐる紛争が、企業のAI研究所と内部の倫理研究者との間の緊張関係を示す広く議論されたケーススタディとなった。
制度的対応
高まる公衆の懸念に応えて、OpenAIやAnthropicを含む主要なAI開発者のほとんどは、現在では何らかの利用ポリシー、安全性または責任あるAIの枠組み、既知の制限を文書化したモデルカードを公開している。特にAnthropicは、憲法的AIを含む研究プログラムの多くを、倫理原則をモデルのトレーニングに直接組み込むことに焦点を当ててきた。政府もまた、AI倫理原則を法律やガイダンスに成文化する動きを見せており、OECD AI原則、米国のAI権利章典の青写真、EU AI法の下での拘束力のある規則などが含まれる。より広範な規制環境はAIガバナンスに関する記事で扱われている。
批判と議論
AI倫理という分野自体も、複数の方向から批判に直面している。一部の技術者は、倫理審査が有益な展開を遅らせたり、実質的な変化ではなく形だけのコンプライアンスに過ぎないと主張する。また、一部のAI安全性研究者を含む人々は、短期的な倫理の枠組みがより重大な長期的リスクから注意をそらすと論じる。逆に、倫理重視の研究者は、AIによる存在論的リスクに関する記事で議論されている存在論的リスクの枠組みが、文書化された現在の害から注意と資金をそらすと主張している。どの一連の懸念がAIガバナンス政策を導くべきかという議論は、2020年代半ばの時点でも活発であり、ほとんど解決されていない。