Partnership on Artificial Intelligence to Benefit People and Society, comumente conhecida como Partnership on AI (PAI), é uma coalizione sem fins lucrativos dedicada ao uso responsável da inteligência artificial. Estabelecida em 2016, a organização reúne partes interessadas da academia, sociedade civil e indústria para desenvolver recomendações de melhores práticas para a comunidade tecnológica. Em 2024, a PAI reporta 126 organizações parceiras em 16 países, trabalhando em questões que vão desde transparencia algorítmica até os impactos sociais da automação.
A coalizione opera em um modelo de múltiples partes interessadas, integrando perspectivas de empresas de tecnologia, instituções de pesquisa e grupos de defesa. Seu trabalho se concentra em traduzir princípios em orientações acionáveis para desenvolvedores, formuladores de políticas e o público, com ênfase na mitigação de riscos enquanto fomenta a inovação em campos como aprendizado automático e IA generativa.
História
A Partnership on AI foi anunciada publicamente em 28 de setembro de 2016, com membros fundadores incluindo Amazon, Facebook, Google, DeepMind, Microsoft e IBM. Os co-presidentes interinos foram Eric Horvitz da Microsoft Research e Mustafa Suleyman da DeepMind. Em janeiro de 2017, Tom Gruber, chefe de desenvolvimento avançado para Siri da Apple, se unió à junta. Terah Lyons se tornó a diretora executiva fundadora em outubro de 2017, trazendo experiência de seu papel como Assessora de Políticas do Chief Technology Officer dos Estados Unidos, Megan Smith.
Baidu se tornó a primeira empresa sediada na China a unirse em outubro de 2018. Em novembro de 2020, PAI lançou o AI Incident Database (AIID), uma ferramenta pública para identificar e avaliar danos relacionados à IA. Rebecca Finlay, anteriormente membro da junta, foi nomeada CEO em 26 de outubro de 2021, após servir como diretora executiva interina. Em fevereiro de 2023, PAI introduziu um marco para meios sintéticos éticos, apoiado por parceiros incluindo Adobe, BBC, OpenAI e TikTok, após um processo colaborativo de um ano.
Missão e Princípios
PAI organiza seu trabalho em cinco áreas programáticas: IA e integridad dos meios; IA, trabalho e economia; justicia, transparencia e responsabilidade; pesquisa e design inclusivos; e segurança para IA. Cada programa produz ferramentas metodológicas, informes e diretrices visando um impacto prático. O programa de IA e Integridad dos Meios aborda o potencial da IA para amplificar conteúdo prejudicial, enquanto o programa de IA, Trabalho e Economía convoca economistas e representantes de trabalhadores para moldear políticas econômicas inclusivas.
O programa de Justicia, Transparencia e Responsabilidade desenvolve padrões para equidade algorítmica e explicabilidade, complementando o programa de Pesquisa e Design Inclusivos, que promove a participação comunitária no desenvolvimento de IA. O programa de IA de Seguridad Crítica se concentra em setores de alto risco como medicina e transporte, supervisando iniciativas como o AI Incident Database e o ambiente de aprendizaje SafeLife. A organização também enfatiza a utilidade social, explorando aplicações de IA em bemestar público, educação e sostenibilidade.
Programas e Iniciativas
Uma iniciativa clave é o marco para a implementação segura de modelos de IA, que guia os provedores na gestão de capacidades em evolução e riscos sociais. PAI também colabora com Google DeepMind em pesquisa sobre taxas de atrito entre mulheres e indivíduos minorizados em tecnologia. Na área de explicabilidade, a organização tem hospedado workshops sobre implementação de IA explicável (XAI), reunindo expertos da indústria para discutir desafíos práticos.
Em parceria com First Draft, PAI investigou estratégias para contrarrestar conteúdo enganoso online, refletindo sua abordagem metódica à integridad da informação. O AI Incident Database permanece como um recurso central, catalogando casos do mundo real para informar práticas de gestão de riscos. A resposta de PAI ao National Institute of Standards and Technology (NIST) em agosto de 2021 destacó esses esforços, incluindo o projeto ABOUT ML para documentar ciclos de vida de aprendizaje automático, como alineados com o Marco de Gestión de Riscos de IA do NIST.
Impacto e Governança
A estrutura de governança de PAI incluye uma junta de diretores composta por organizações parceiras, com transições de liderazgo documentadas desde sua fundação. O crescimento da coalizione de seis empresas fundadoras a más de 120 parceiros ilustra sua influencia expansiva em todos os setores. Suas recomendações têm sido referenciadas em discussões políticas, particularmente em relação à gestión de riscos de IA e governança de meios sintéticos. A organização continua adaptando suas prioridades conforme as tecnologias de inteligência artificial evoluem, equilibrando inovação com responsabilidade.
Em 2024, PAI permanece ativa moldando conversas globais sobre IA responsável, com projetos contínuos em integridad dos meios, trabalho e segurança. Seu modelo colaborativo o distingue de esforços puramente liderados pela indústria, visando incorporar voces diversas nas decisiones técnicas e políticas.