A ética da IA é o campo interdisciplinar que examina as implicações morais, sociais e políticas da construção e implantação de sistemas de inteligência artificial. Ela se sobrepõe, mas é mais ampla do que segurança de IA, que tende a se concentrar em prevenir falhas catastróficas ou existenciais; a ética da IA, em vez disso, centra-se em danos de curto prazo, como discriminação, perda de privacidade, erosão da responsabilização, deslocamento de mão de obra e a concentração de poder em um pequeno número de empresas e governos que controlam sistemas de fronteira. Os profissionais da área incluem filósofos, cientistas da computação, advogados e sociólogos, e suas preocupações cada vez mais informam políticas corporativas e regulamentações governamentais por meio de estruturas como o Ato de IA da UE.
Preocupações centrais
O viés e a imparcialidade estão entre os tópicos mais estudados na ética da IA: como os sistemas de aprendizado de máquina aprendem padrões estatísticos a partir de dados de treinamento, eles podem reproduzir e amplificar a discriminação histórica presente nesses dados, um efeito documentado em ferramentas de contratação, pontuação de crédito e reconhecimento facial, e discutido em detalhes no artigo sobre viés algorítmico. A transparência e a responsabilização dizem respeito a se as pessoas afetadas por uma decisão de IA podem entendê-la ou contestá-la, um desafio agravado pela natureza de caixa-preta dos grandes modelos de redes neurais, o que motivou os campos separados de IA explicável e interpretabilidade. As preocupações com a privacidade surgem tanto dos vastos dados de treinamento coletados para construir modelos quanto das capacidades de vigilância habilitadas por IA. Outros temas recorrentes incluem o custo ambiental de treinar e executar grandes modelos, as condições de trabalho dos anotadores humanos que rotulam dados e moderam conteúdo, e o risco de que ferramentas generativas acelerem a disseminação de desinformação por meio de mídia Deepfake e conteúdo produzido em massa de baixa qualidade, às vezes rotulado como lixo de IA.
O debate dos papagaios estocásticos
Um momento crucial para o campo foi o artigo de 2021 "On the Dangers of Stochastic Parrots", coautorado por Timnit Gebru, Emily Bender e colegas, que argumentou que modelos de linguagem cada vez maiores correm o risco de codificar vieses em escala, incorrem em custos ambientais e financeiros substanciais e podem criar uma falsa impressão de compreensão onde nenhuma existe, uma crítica posteriormente resumida pelo termo papagaio estocástico. A publicação do artigo coincidiu com a saída de Gebru do Google em meio a uma disputa interna sobre a revisão do artigo, o que se tornou um estudo de caso amplamente discutido sobre a tensão entre laboratórios corporativos de IA e pesquisadores internos de ética.
Resposta institucional
Em resposta à crescente preocupação pública, a maioria dos principais desenvolvedores de IA, incluindo OpenAI e Anthropic, agora publica alguma forma de política de uso, estrutura de segurança ou IA responsável, e cartões de modelo documentando limitações conhecidas. A Anthropic, em particular, enquadrou grande parte de seu programa de pesquisa, incluindo a IA constitucional, em torno da incorporação de princípios éticos diretamente no treinamento de modelos. Os governos também se moveram para codificar princípios de ética da IA em leis ou orientações, incluindo os Princípios de IA da OCDE, o Blueprint dos EUA para uma Declaração de Direitos de IA e regras vinculantes sob o Ato de IA da UE; o cenário regulatório mais amplo é coberto no artigo sobre governança de IA.
Crítica e debate
A ética da IA como campo enfrentou críticas de várias direções. Alguns tecnólogos argumentam que as revisões éticas atrasam a implantação benéfica ou equivalem a conformidade performática em vez de mudança substancial. Outros, incluindo alguns pesquisadores de segurança de IA, argumentam que um enquadramento ético de curto prazo distrai de riscos de longo prazo mais consequentes; inversamente, pesquisadores focados em ética argumentaram que o enquadramento de risco existencial, discutido no artigo sobre risco existencial da IA, desvia atenção e financiamento de danos presentes documentados. O debate sobre qual conjunto de preocupações deve orientar a política de governança de IA permanece ativo e em grande parte não resolvido em meados da década de 2020.