La ética de la IA es el campo interdisciplinario que examina las implicaciones morales, sociales y políticas de construir y desplegar sistemas de inteligencia artificial. Se superpone con, pero es más amplia que, seguridad de la IA, que tiende a centrarse en prevenir fallos catastróficos o existenciales; la ética de la IA, en cambio, se centra en daños a más corto plazo, como la discriminación, la pérdida de privacidad, la erosión de la rendición de cuentas, el desplazamiento laboral y la concentración de poder en un pequeño número de empresas y gobiernos que controlan los sistemas de frontera. Los profesionales del campo incluyen filósofos, informáticos, abogados y sociólogos, y sus preocupaciones influyen cada vez más en la política corporativa y la regulación gubernamental a través de marcos como el acta de IA de la UE.
Preocupaciones centrales
El sesgo y la equidad se encuentran entre los temas más estudiados en la ética de la IA: debido a que los sistemas de aprendizaje automático aprenden patrones estadísticos de los datos de entrenamiento, pueden reproducir y amplificar la discriminación histórica presente en esos datos, un efecto documentado en herramientas de contratación, puntuación de crédito y reconocimiento facial, y discutido en detalle en el artículo sobre sesgo algorítmico. La transparencia y la rendición de cuentas se refieren a si las personas afectadas por una decisión de IA pueden comprenderla o impugnarla, un desafío agudizado por la naturaleza de caja negra de los grandes modelos de redes neuronales, lo que ha motivado los campos separados de IA explicable y interpretabilidad. Las preocupaciones sobre la privacidad surgen tanto de los vastos datos de entrenamiento recopilados para construir modelos como de las capacidades de vigilancia habilitadas por la IA. Otros temas recurrentes incluyen el costo ambiental de entrenar y ejecutar modelos grandes, las condiciones laborales de los anotadores humanos que etiquetan datos y moderan contenido, y el riesgo de que las herramientas generativas aceleren la propagación de desinformación a través de medios Deepfake y contenido de baja calidad producido en masa, a veces etiquetado como basura de IA.
El debate de los loros estocásticos
Un momento pivotal para el campo fue el artículo de 2021 "On the Dangers of Stochastic Parrots", coescrito por Timnit Gebru, Emily Bender y colegas, que argumentaba que los modelos de lenguaje cada vez más grandes corren el riesgo de codificar sesgos a escala, incurren en costos ambientales y financieros sustanciales, y pueden crear una falsa impresión de comprensión donde no existe, una crítica resumida más tarde por el término loro estocástico. La publicación del artículo coincidió con la salida de Gebru de Google en medio de una disputa interna sobre la revisión del artículo, que se convirtió en un caso de estudio ampliamente discutido sobre la tensión entre los laboratorios corporativos de IA y los investigadores internos de ética.
Respuesta institucional
En respuesta a la creciente preocupación pública, la mayoría de los principales desarrolladores de IA, incluidos OpenAI y Anthropic, ahora publican alguna forma de política de uso, marco de seguridad o IA responsable, y tarjetas de modelo que documentan limitaciones conocidas. Anthropic, en particular, ha enmarcado gran parte de su programa de investigación, incluida la IA constitucional, en torno a la incorporación de principios éticos directamente en el entrenamiento de modelos. Los gobiernos también han avanzado para codificar principios de ética de la IA en leyes o directrices, incluidos los Principios de IA de la OCDE, el Blueprint para una Carta de Derechos de la IA de EE. UU. y reglas vinculantes bajo el Acta de IA de la UE; el panorama regulatorio más amplio se cubre en el artículo sobre gobernanza de la IA.
Crítica y debate
La ética de la IA como campo ha enfrentado críticas desde múltiples direcciones. Algunos tecnólogos argumentan que las revisiones éticas ralentizan el despliegue beneficioso o equivalen a un cumplimiento performativo en lugar de un cambio sustancial. Otros, incluidos algunos investigadores de seguridad de la IA, argumentan que un enfoque ético a corto plazo distrae de riesgos a largo plazo más consecuentes; por el contrario, los investigadores centrados en la ética han argumentado que el enfoque en el riesgo existencial, discutido en el artículo sobre riesgo existencial de la IA, distrae la atención y la financiación de daños presentes documentados. El debate sobre qué conjunto de preocupaciones debería guiar la política de gobernanza de la IA sigue activo y en gran medida sin resolver a mediados de la década de 2020.