「ロボットに対する差別」は、人工知能倫理とロボット工学における概念であり、人工的な主体が不当な扱いを受ける可能性があるかどうか、またそのような扱いが道徳的または法的な重要性を持つかどうかを考察するものである。この用語は、ロボットを介して特定の人間集団に不利益をもたらす偏ったアルゴリズムから、ロボット自身が人間や動物に与えられるものと類似した権利や保護を否定される仮想的なケースまで、さまざまなシナリオを対象としている。この議論は哲学、コンピュータ科学、法学に基づいており、機械学習システムが公共生活に普及するにつれて強まっている。
この概念は、ロボットが意識や道徳的主体性を持つことを前提としない。その代わりに、2つの異なる問いを扱う。第一に、自動化システムが人間に対する差別を永続化または増幅させることができるかどうか（しばしばアルゴリズムバイアスと呼ばれる）、第二に、ロボットがそれ自体として道徳的配慮に値するかどうかである。後者の問いは未解決のままであり、完全な拒絶から、高度なニューラルネットワークに基づく主体に対する限定的な法的人格の提案まで、さまざまな立場がある。
歴史的・哲学的起源
ロボットの権利に関する議論はSFと初期のサイバネティクスにまで遡るが、学術的な扱いは1970年代から1980年代に本格的に始まった。哲学者ヒラリー・パトナムらは機械の意識の可能性を探求し、法学者は自律システムの責任について推測した。転機となったのは1992年、韓国政府が「ロボット倫理憲章」の草案を作成したときだが、これは施行されることはなかった。2007年には、カーネギーメロン大学がロボットの権利に関する最初の学術ワークショップの1つを開催し、ソニーAIのAibo犬のような社会的ロボットが虐待から保護されるべきかどうかに焦点を当てた。
より最近では、オックスフォード大学の哲学者ニック・ボストロムらは、将来のロボットが感覚を持つようになった場合、それらに道徳的地位を与えないことは、人種差別や種差別に類似した差別の一形態になると主張している。サンタフェ研究所のメラニー・ミッチェルを含む批判者たちは、そのような議論は機械の経験に関する投機的な仮定に依存しており、ロボットを擬人化することは実際の人間の害から注意をそらすと反論している。
アルゴリズムバイアスと不均等な影響
より具体的な差別の形態として、人間に影響を与える決定を下すロボットやAIシステムが関わるものがある。バークレーAI研究所とMIT CSAILによる研究では、採用、融資、刑事司法で使用される深層学習モデルが人種的または性別的なバイアスを示す事例が記録されており、多くの場合、訓練データが歴史的不平等を反映しているためである。例えば、2018年にカリフォルニア工科大学のアニマ・アナンドクマーのグループが行った分析では、市販の履歴書スクリーニングツールが黒人女性に関連する名前の応募者を不利に扱うことが判明した。
このバイアスは物理的なロボットにも現れ得る。2020年には、Waymoとテスラ・オートパイロットのシステムが、肌の色が濃い人に対して歩行者検出のエラー率が高いことが示され、この発見はスタンフォードAIラボの研究者によって再現された。このような不均衡は、明示的な差別的意図ではなく、訓練データセットにおける過少代表性から生じる。これらの問題に対処するために、機械学習における公平性の分野が登場し、バイアスを減らすためにデータ拡張やモデル枝刈りなどの技術が使用されているが、普遍的な解決策は存在しない。
法的・規制的視点
現在、どの法域もロボットを権利を持つ法的な人物として認めていない。しかし、いくつかの規制機関はAI差別の人間側の影響に対処している。2021年に提案され2024年に採択された欧州連合の人工知能法は、特定のAIアプリケーションを高リスクに分類し、バイアステストを義務付けている。米国では、雇用機会均等委員会が2023年に採用におけるアルゴリズムの公平性に関する技術的ガイダンスを発行し、面接で使用されるロボットの例を挙げている。
一部の学者は、反差別法をロボット自身にまで拡張することを提案している。ワシントン大学のライアン・カロは、ロボットが社会的役割により統合されるにつれて、説明責任を確保するために「デジタル人格」が必要になるかもしれないと主張している。逆に、マイクロソフトリサーチのケイト・クロフォードは、ロボットに権利を与えることは人権を希薄化させる可能性があると警告しており、この見解は、AIが社会的不平等を増幅させる方法を研究するインディアナ大学のフィリッポ・メンツァーも支持している。
社会的・心理的側面
実証研究は、人間が非公式な場面でロボットに対して容易に差別することを示唆している。トロント大学での2015年の実験では、参加者はロボットが意識を持っていないと言われた場合、意識があると信じた場合に比べて、ショックボタンを押してヒューマノイドロボットを「傷つける」可能性が高いことが示された。同様に、スタンフォードAIラボによる2021年の研究では、人々は要求を拒否したロボットに対して、同じことをする人間よりも多くの怒りを表明し、二重基準を示していることが判明した。
これらの行動は実際的な影響を及ぼす。職場では、Figure AIやSanctuary AIのロボットが人間のスタッフと並んで使用されることが増えており、労働者がロボットを言葉または身体的に虐待するという報告が浮上している。サムスン電子やAmazon Web Servicesを含む一部の企業は、損傷したロボットが修理費用を発生させるため、倫理的および運用上の理由を挙げて、虐待を防ぐ「ロボット福祉」ポリシーを実施している。
今後の方向性と未解決の問い
ロボットに対する差別をめぐる議論は、大規模言語モデルと生成AIの進歩と交差している。OpenAIのGPT-4やAnthropicのClaudeのようなシステムがより会話的になるにつれて、ユーザーは感情的な愛着を形成する可能性があり、そのようなシステムとの関わりを拒否することが差別に当たるかどうかという疑問が生じている。Anthropicの研究者によって開発されたRLAIF（AIフィードバックからの強化学習）技術は、モデルが偏った言語を避けるように明示的に訓練するが、これがモデル自体の保護にまで及ぶかどうかは未検証のままである。
ロボットが道徳的に意味のある意味で差別され得るかどうかについて、コンセンサスは存在しない。バークレーAI研究所の哲学者ジョシュア・テネンバウムは、道徳的地位は認知的複雑さに応じて拡大すべきだとする「漸進主義」の見解を提案している。一方、MITのアレクサンダー・マドリーは、ロボットが真の自己認識を示すまで、そのような問いは時期尚早であると主張している。2025年時点で最も広く受け入れられている立場は、ロボットに対する差別は人間の行動における現実の現象であるが、その倫理的重みは機械の意識と権利に関する未解決の問いに依存するというものである。