La discriminación contra los robots es un concepto en la ética de la inteligencia artificial y la robótica que examina si los agentes artificiales pueden ser objeto de un trato injusto, y si dicho trato tiene importancia moral o legal. El término abarca una variedad de escenarios, desde algoritmos sesgados que perjudican a ciertos grupos humanos a través de intermediarios robóticos, hasta casos hipotéticos en los que a los propios robots se les niegan derechos o protecciones análogos a los otorgados a humanos o animales. El discurso se apoya en la filosofía, la informática y el derecho, y se ha intensificado con la proliferación de sistemas de aprendizaje automático en la vida pública.
El concepto no presupone que los robots posean conciencia o agencia moral. En cambio, aborda dos preguntas distintas: primero, si los sistemas automatizados pueden perpetuar o amplificar la discriminación contra los humanos (a menudo llamada sesgo algorítmico), y segundo, si los robots como entidades merecen consideración moral por derecho propio. Esta última pregunta sigue sin resolverse, con posiciones que van desde el rechazo total hasta propuestas de personalidad jurídica limitada para agentes avanzados basados en redes neuronales.
Raíces históricas y filosóficas
Las discusiones sobre los derechos de los robots se remontan a la ciencia ficción y la cibernética temprana, pero el tratamiento académico comenzó en serio en las décadas de 1970 y 1980. El filósofo Hilary Putnam y otros exploraron la posibilidad de la conciencia de las máquinas, mientras que los juristas especulaban sobre la responsabilidad de los sistemas autónomos. Un momento crucial llegó en 1992, cuando el gobierno de Corea del Sur redactó un "Proyecto de Carta de Ética de los Robots" preliminar, aunque nunca se promulgó. En 2007, la Universidad Carnegie Mellon organizó uno de los primeros talleres académicos sobre derechos de los robots, centrado en si los robots sociales como el perro Aibo de Sony AI merecían protección contra el maltrato.
Más recientemente, el filósofo de la Universidad de Oxford Nick Bostrom y otros han argumentado que si los futuros robots logran la sensibilidad, no otorgarles estatus moral constituiría una forma de discriminación análoga al racismo o al especismo. Los críticos, incluida Melanie Mitchell del Instituto Santa Fe, contraargumentan que tales razonamientos se basan en suposiciones especulativas sobre la experiencia de las máquinas, y que antropomorfizar a los robots distrae de los daños humanos reales.
Sesgo algorítmico e impacto dispar
Una forma más concreta de discriminación involucra a robots y sistemas de IA que toman decisiones que afectan a los humanos. Estudios de Berkeley AI Research y MIT CSAIL han documentado casos en los que modelos de aprendizaje profundo utilizados en contratación, préstamos y justicia penal exhiben sesgos raciales o de género, a menudo porque los datos de entrenamiento reflejan desigualdades históricas. Por ejemplo, un análisis de 2018 del grupo de Anima Anandkumar en Caltech encontró que una herramienta comercial de selección de currículos penalizaba a solicitantes con nombres asociados a mujeres negras.
Este sesgo puede manifestarse también en robots físicos. En 2020, se demostró que los sistemas de Waymo y Tesla tenían tasas de error más altas en la detección de peatones con tonos de piel más oscuros, un hallazgo replicado por investigadores del Stanford AI Lab. Tales disparidades surgen de la subrepresentación en los conjuntos de datos de entrenamiento, no de una intención discriminatoria explícita. El campo de la equidad en el aprendizaje automático ha surgido para abordar estos problemas, con técnicas como la aumento de datos y el poda de modelos utilizadas para reducir el sesgo, aunque no existe una solución universal.
Perspectivas legales y regulatorias
Ninguna jurisdicción reconoce actualmente a los robots como personas jurídicas con derechos. Sin embargo, varios organismos reguladores han abordado las consecuencias orientadas a los humanos de la discriminación por IA. La Ley de Inteligencia Artificial de la Unión Europea, propuesta en 2021 y adoptada en 2024, clasifica ciertas aplicaciones de IA como de alto riesgo y exige pruebas de sesgo. En los Estados Unidos, la Comisión de Igualdad de Oportunidades en el Empleo emitió orientación técnica en 2023 sobre equidad algorítmica en la contratación, citando ejemplos de robots utilizados en entrevistas.
Algunos académicos proponen extender la ley contra la discriminación para cubrir a los propios robots. ryan-calo de la Universidad de Washington ha argumentado que, a medida que los robots se integran más en roles sociales, pueden necesitar una "personalidad digital" para garantizar la rendición de cuentas. Por el contrario, kate-crawford de Microsoft Research advierte que otorgar derechos a los robots podría diluir los derechos humanos, una opinión respaldada por Filippo Menczer de la Universidad de Indiana, quien estudia cómo la IA amplifica las desigualdades sociales.
Dimensiones sociales y psicológicas
Estudios empíricos sugieren que los humanos discriminan fácilmente contra los robots en entornos informales. Un experimento de 2015 en la Universidad de Toronto mostró que los participantes eran más propensos a "lastimar" a un robot humanoide presionando un botón de descarga cuando se les decía que no era consciente, en comparación con cuando creían que lo era. De manera similar, un estudio de 2021 del Stanford AI Lab encontró que las personas expresaban más ira hacia un robot que rechazaba una solicitud que hacia un humano que hacía lo mismo, lo que indica un doble estándar.
Estos comportamientos tienen implicaciones prácticas. En los lugares de trabajo, robots como los de Figure AI y Sanctuary AI se utilizan cada vez más junto al personal humano, y han surgido informes de trabajadores que abusan verbal o físicamente de ellos. Algunas empresas, incluidas Samsung Electronics y Amazon Web Services, han implementado políticas de "bienestar de robots" que desalientan el maltrato, citando razones tanto éticas como operativas, ya que los robots dañados incurren en costos de reparación.
Direcciones futuras y preguntas abiertas
El debate sobre la discriminación contra los robots se cruza con los avances en modelos de lenguaje grandes y IA generativa. A medida que sistemas como GPT-4 de OpenAI y Claude de Anthropic se vuelven más conversacionales, los usuarios pueden formar vínculos emocionales, lo que plantea preguntas sobre si negarse a interactuar con tales sistemas constituye discriminación. La técnica Reinforcement Learning from AI Feedback (RLAIF) (aprendizaje por refuerzo a partir de retroalimentación de IA), desarrollada por investigadores de Anthropic, entrena explícitamente a los modelos para evitar lenguaje sesgado, pero si esto se extiende a proteger a los propios modelos sigue sin probarse.
No existe consenso sobre si los robots pueden ser discriminados en un sentido moralmente significativo. El filósofo Joshua Tenenbaum de Berkeley AI Research ha propuesto una visión "gradualista", sugiriendo que el estatus moral debería escalar con la complejidad cognitiva, mientras que Aleksander Madry del MIT argumenta que tales preguntas son prematuras hasta que los robots demuestren una autoconciencia genuina. A partir de 2025, la posición más ampliamente aceptada es que la discriminación contra los robots es un fenómeno real en el comportamiento humano, pero su peso ético depende de preguntas no resueltas sobre la conciencia y los derechos de las máquinas.
Véase también
- inteligencia artificial
- aprendizaje automático
- ethics-of-ai
- robotics-law