Partnership on Artificial Intelligence to Benefit People and Society, conocido comúnmente como Partnership on AI (PAI), es una coalición sin fines de lucro dedicada al uso responsable de la inteligencia artificial. Establecida en 2016, la organización reúne a partes interesadas del ámbito académico, la sociedad civil y la industria para desarrollar recomendaciones de mejores prácticas para la comunidad tecnológica. A partir de 2024, PAI reporta 126 organizaciones asociadas en 16 países, trabajando en temas que van desde la transparencia algorítmica hasta los impactos sociales de la automatización.
La coalición opera bajo un modelo de múltiples partes interesadas, integrando perspectivas de empresas tecnológicas, instituciones de investigación y grupos de defensa. Su trabajo se centra en traducir principios en guías prácticas para desarrolladores, formuladores de políticas y el público, con énfasis en mitigar riesgos mientras se fomenta la innovación en campos como el aprendizaje automático y la IA generativa.
Historia
La Partnership on AI fue anunciada públicamente el 28 de septiembre de 2016, con miembros fundadores que incluyen a Amazon, Facebook, Google, DeepMind, Microsoft e IBM. Los copresidentes interinos fueron Eric Horvitz de Microsoft Research y Mustafa Suleyman de DeepMind. En enero de 2017, Tom Gruber, jefe de desarrollo avanzado de Siri en Apple, se unió a la junta directiva. Terah Lyons se convirtió en la directora ejecutiva fundadora en octubre de 2017, aportando experiencia de su rol como asesora de políticas del Director de Tecnología de los Estados Unidos, Megan Smith.
Baidu se convirtió en la primera empresa con sede en China en unirse en octubre de 2018. En noviembre de 2020, PAI lanzó la Base de Datos de Incidentes de IA (AIID), una herramienta pública para identificar y evaluar daños relacionados con la IA. Rebecca Finlay, anteriormente miembro de la junta, fue nombrada directora ejecutiva el 26 de octubre de 2021, después de servir como directora ejecutiva interina. En febrero de 2023, PAI presentó un marco para medios sintéticos éticos, respaldado por socios como Adobe, BBC, OpenAI y TikTok, tras un proceso colaborativo de un año.
Misión y Principios
PAI organiza su trabajo en cinco áreas programáticas: integridad de la IA y los medios; IA, trabajo y economía; justicia, transparencia y rendición de cuentas; investigación y diseño inclusivos; y seguridad para la IA. Cada programa produce herramientas metodológicas, informes y directrices orientadas a un impacto práctico. El programa de Integridad de la IA y los Medios aborda el potencial de la IA para amplificar contenido dañino, mientras que el programa de IA, Trabajo y Economía reúne a economistas y representantes de trabajadores para dar forma a políticas económicas inclusivas.
El programa de Equidad, Transparencia y Rendición de Cuentas desarrolla estándares para la equidad y explicabilidad algorítmica, complementando el programa de Investigación y Diseño Inclusivos, que promueve la participación comunitaria en el desarrollo de la IA. El programa de IA de Seguridad Crítica se centra en sectores de alto riesgo como la medicina y el transporte, supervisando iniciativas como la Base de Datos de Incidentes de IA y el entorno de aprendizaje SafeLife. La organización también enfatiza la utilidad social, explorando aplicaciones de la IA en bienestar público, educación y sostenibilidad.
Programas e Iniciativas
Una iniciativa clave es el marco para el despliegue seguro de modelos de IA, que guía a los proveedores en la gestión de capacidades en evolución y riesgos sociales. PAI también colabora con Google DeepMind en investigaciones sobre tasas de deserción entre mujeres y personas de minorías en el sector tecnológico. En el área de la explicabilidad, la organización ha organizado talleres sobre el despliegue de IA explicable (XAI), reuniendo a expertos de la industria para discutir desafíos prácticos.
En asociación con First Draft, PAI investigó estrategias para contrarrestar contenido engañoso en línea, reflejando su enfoque metódico hacia la integridad de la información. La Base de Datos de Incidentes de IA sigue siendo un recurso central, catalogando casos del mundo real para informar prácticas de gestión de riesgos. La respuesta de PAI al Instituto Nacional de Estándares y Tecnología (NIST) en agosto de 2021 destacó estos esfuerzos, incluido el proyecto ABOUT ML para documentar ciclos de vida del aprendizaje automático, como alineados con el Marco de Gestión de Riesgos de IA del NIST.
Impacto y Gobernanza
La estructura de gobernanza de PAI incluye una junta directiva compuesta por organizaciones asociadas, con transiciones de liderazgo documentadas desde su fundación. El crecimiento de la coalición, de seis empresas fundadoras a más de 120 socios, ilustra su influencia expansiva en todos los sectores. Sus recomendaciones han sido referenciadas en discusiones políticas, particularmente en relación con la gestión de riesgos de la IA y la gobernanza de medios sintéticos. La organización continúa adaptando sus prioridades a medida que evolucionan las tecnologías de inteligencia artificial, equilibrando la innovación con la rendición de cuentas.
A partir de 2024, PAI sigue activa en la configuración de conversaciones globales sobre IA responsable, con proyectos en curso en integridad de medios, trabajo y seguridad. Su modelo colaborativo lo distingue de los esfuerzos puramente liderados por la industria, con el objetivo de incorporar voces diversas en decisiones técnicas y políticas.