로봇에 대한 차별은 Artificial intelligence 윤리 및 로봇 공학의 개념으로, 인공 에이전트가 불공정한 대우를 받을 수 있는지, 그리고 그러한 대우가 도덕적 또는 법적 의미를 지니는지 여부를 검토한다. 이 용어는 로봇 중개자를 통해 특정 인간 집단에 불리하게 작용하는 편향된 알고리즘부터, 로봇 자체가 인간이나 동물에게 부여된 권리와 유사한 권리나 보호를 거부당하는 가상의 시나리오까지 다양한 상황을 포괄한다. 이 논의는 철학, 컴퓨터 과학, 법학에서 비롯되며, Machine learning 시스템이 공공 생활에 확산되면서 더욱 강화되었다.
이 개념은 로봇이 의식이나 도덕적 행위자성을 지닌다고 가정하지 않는다. 대신 두 가지 별개의 질문을 다룬다. 첫째, 자동화 시스템이 인간에 대한 차별을 영속화하거나 증폭시킬 수 있는지(종종 알고리즘 편향이라고 함), 둘째, 로봇이 그 자체로 도덕적 고려의 대상이 될 자격이 있는지 여부다. 후자의 질문은 여전히 해결되지 않았으며, 완전한 거부에서부터 고급 Neural network 기반 에이전트에 대한 제한적 법적 인격 제안에 이르기까지 다양한 입장이 존재한다.
역사적 및 철학적 뿌리
로봇 권리에 대한 논의는 공상 과학 소설과 초기 사이버네틱스로 거슬러 올라가지만, 학문적 처리는 1970년대와 1980년대에 본격적으로 시작되었다. 철학자 힐러리 퍼트넘과 다른 학자들은 기계 의식의 가능성을 탐구했고, 법학자들은 자율 시스템에 대한 책임에 대해 추측했다. 전환점은 1992년 한국 정부가 "로봇 윤리 헌장"의 예비 초안을 작성했지만 시행되지 않았을 때였다. 2007년에는 Carnegie Mellon University가 로봇 권리에 대한 최초의 학술 워크숍 중 하나를 주최하여 Sony AI의 아이보 개와 같은 사회적 로봇이 학대 보호를 받을 자격이 있는지에 초점을 맞췄다.
보다 최근에는 University of Oxford 철학자 닉 보스트롬과 다른 학자들이 미래의 로봇이 감각을 획득한다면, 그들에게 도덕적 지위를 부여하지 않는 것이 인종차별이나 종 차별과 유사한 차별의 한 형태를 구성할 것이라고 주장한다. 산타페 연구소의 Melanie Mitchell을 포함한 비판론자들은 그러한 주장이 기계 경험에 대한 추측적 가정에 의존하며, 로봇을 의인화하는 것이 실제 인간 피해에서 주의를 돌린다고 반박한다.
알고리즘 편향과 상이한 영향
보다 구체적인 차별 형태는 인간에게 영향을 미치는 결정을 내리는 로봇과 AI 시스템을 포함한다. BAIR (Berkeley AI Research)와 MIT CSAIL의 연구는 채용, 대출, 형사 사법에서 사용되는 Deep learning 모델이 인종 또는 성별 편향을 나타내는 사례를 문서화했으며, 종종 훈련 데이터가 역사적 불평등을 반영하기 때문이다. 예를 들어, 칼텍의 Anima Anandkumar 그룹이 2018년에 수행한 분석은 상업용 이력서 스크리닝 도구가 흑인 여성과 관련된 이름을 가진 지원자를 불이익을 주는 것을 발견했다.
이러한 편향은 물리적 로봇에서도 나타날 수 있다. 2020년에는 Waymo와 Tesla 시스템이 더 어두운 피부 톤을 가진 사람들에 대해 보행자 감지 오류율이 더 높은 것으로 나타났으며, 이는 Stanford AI Lab 연구자들에 의해 재현되었다. 이러한 격차는 명시적인 차별 의도가 아니라 훈련 데이터 세트의 과소 대표에서 발생한다. 공정성-기계 학습 분야는 이러한 문제를 해결하기 위해 등장했으며, Data Augmentation 및 Model Pruning과 같은 기술이 편향을 줄이는 데 사용되지만 보편적인 해결책은 존재하지 않는다.
법적 및 규제 관점
현재 어떤 관할권도 로봇을 권리를 가진 법적 인격체로 인정하지 않는다. 그러나 여러 규제 기관은 AI 차별의 인간 대상 결과를 다루었다. 2021년에 제안되고 2024년에 채택된 유럽 연합의 인공 지능 법은 특정 AI 응용 프로그램을 고위험으로 분류하고 편향 테스트를 의무화한다. 미국에서는 equal employment opportunity commission이 2023년에 채용의 알고리즘 공정성에 대한 기술 지침을 발표했으며, 인터뷰에서 사용되는 로봇의 예를 인용했다.
일부 학자들은 차별 금지 법률을 로봇 자체로 확대할 것을 제안한다. 워싱턴 대학의 ryan calo는 로봇이 사회적 역할에 더 통합됨에 따라 책임을 보장하기 위해 "디지털 인격"이 필요할 수 있다고 주장했다. 반대로 마이크로소프트 리서치의 kate crawford는 로봇에게 권리를 부여하는 것이 인간 권리를 희석시킬 수 있다고 경고하며, 이는 AI가 사회적 불평등을 증폭시키는 방식을 연구하는 인디애나 대학의 Filippo Menczer의 견해와 일치한다.
사회적 및 심리적 차원
경험적 연구는 인간이 비공식적 환경에서 로봇을 쉽게 차별한다는 것을 시사한다. University of Toronto에서 2015년에 수행된 실험은 참가자들이 로봇이 의식이 없다고 들었을 때 의식이 있다고 믿었을 때보다 인간형 로봇을 충격 버튼을 눌러 "해치"할 가능성이 더 높다는 것을 보여주었다. 유사하게, Stanford AI Lab의 2021년 연구는 사람들이 요청을 거부하는 로봇에 대해 같은 행동을 하는 인간보다 더 많은 분노를 표현한다는 것을 발견하여 이중 기준을 나타냈다.
이러한 행동은 실질적인 영향을 미친다. 작업장에서는 Figure AI와 Sanctuary AI의 로봇이 인간 직원과 함께 점점 더 많이 사용되며, 직원들이 로봇을 언어적 또는 물리적으로 학대하는 보고가 나타났다. Samsung Electronics와 Amazon Web Services를 포함한 일부 기업은 손상된 로봇이 수리 비용을 발생시키기 때문에 윤리적 및 운영적 이유를 모두 인용하여 학대를 억제하는 "로봇 복지" 정책을 시행했다.
미래 방향 및 미해결 질문
로봇에 대한 차별 논쟁은 Large language model 및 Generative AI의 발전과 교차한다. OpenAI의 GPT-4 및 Anthropic의 Claude와 같은 시스템이 더 대화적으로 변함에 따라 사용자는 감정적 애착을 형성할 수 있으며, 이러한 시스템과의 상호 작용을 거부하는 것이 차별을 구성하는지에 대한 질문이 제기된다. Anthropic 연구자들이 개발한 Reinforcement Learning from AI Feedback (RLAIF) (AI 피드백에서의 강화 학습) 기술은 모델이 편향된 언어를 피하도록 명시적으로 훈련하지만, 이것이 모델 자체를 보호하는 것으로 확장되는지는 아직 검증되지 않았다.
로봇이 도덕적으로 의미 있는 방식으로 차별받을 수 있는지에 대한 합의는 존재하지 않는다. BAIR (Berkeley AI Research) 철학자 Joshua Tenenbaum은 도덕적 지위가 인지 복잡성에 따라 확장되어야 한다는 "점진주의적" 관점을 제안했으며, MIT의 Aleksander Madry는 로봇이 진정한 자기 인식을 입증할 때까지 그러한 질문은 시기상조라고 주장한다. 2025년 현재 가장 널리 받아들여지는 입장은 로봇에 대한 차별이 인간 행동에서 실제 현상이지만, 그 윤리적 무게는 기계 의식과 권리에 대한 미해결 질문에 달려 있다는 것이다.