Os Google AI Principles, publicados em junho de 2018, são um conjunto de diretrizes éticas que governam a pesquisa, o desenvolvimento e a implantação de inteligência artificial pela empresa. Os princípios foram apresentados pelo CEO Sundar Pichai em uma postagem de blog, delineando sete objetivos que o Google se compromete a seguir em seu trabalho com IA, além de áreas de aplicação que a empresa não buscará. As diretrizes surgiram em meio a um crescente debate público sobre a ética da IA, incluindo preocupações sobre viés algorítmico, privacidade e o possível uso indevido de sistemas autônomos.
Os princípios foram moldados por discussões internas e contribuições externas, incluindo feedback de funcionários e grupos da sociedade civil. Eles vieram após controvérsias internas, como o project maven, um programa de análise de imagens de drones do Departamento de Defesa dos EUA, que gerou protestos de funcionários e a renúncia de vários pesquisadores. Os princípios visam fornecer uma estrutura para a tomada de decisões éticas da em IA, equilibrando inovação e responsabilidade.
Core Objectives
Os Google AI Principles listam sete objetivos primários. Primeiro, a IA deve ser socialmente benéfica, buscando melhorar a vida das pessoas e a abordar desafios como saúde, educação e sustentabilidade. Segundo, a IA deve evitar criar ou reforçar julgamentos injustos, com esforços para garantir "equidade" e mitigar resultados discriminatórios. Terceiro, a IA deve ser construída e testada para segurança, incluindo projeto robusto e avaliação de riscos. Quarto, a IA deve ser responsável perante as pessoas, com oportunidades de feedback e supervisão humana. Quinto, a IA deve incorporar princípios de design de privacidade, dando aos usuários transparência e controle sobre seus dados. Sexto, a IA deve manter altos padrões de excelência científica, incluindo testes rigorosos e revisão por pares. Sétimo, a IA deve ser disponibilizada para usos que se alinham com esses princípios, considerando o contexto e os possíveis danos.
Aplicações Não Buscadas
Os princípios também especificam áreas onde o Google não será projetará ou implantará IA. Essas incluem tecnologias que causam danos gerais ou que podem causar danos gerais, armas ou outras empresas tecnológicas cujo objetivo principal é facilitar ferimentos, tecnologias que coletam ou usam informações para vigilância violando normas internationalmente aceitas e tecnologias cujo propósito viola princípios amplamente aceitos de direito internacional e direitos humanos. Esta seção foi particularmente notável por sua posição sobre armas autônomas, embora não proíba explicitamente todas as aplicações militares.
Governança e Implementação
Para colocar os princípios em prática, o Google estabeleceu um
processo de revisão ética de IA, incluindo uma equipe dedicada e um conselho consultivo. A empresa publica relatórios anuais detalhando como aplicaos princípios, incluindo estudos de caso e métricas. No entanto, a implementação enfrentou desafios, incluindo a dissolução de um conselho consultivo externo em 2019 após controvérsia sobre seus integrantes. Os princípios têm sido criticados por alguns como vagos ou insuficientemente exequíveis, enquanto outros os veem como um passo positivo em direção à responsabilidade corporativa no desenvolvimento da Artificial intelligence.
Os princípios fazem parte de uma tendência da indústria mais ampla, com outras organizações como OpenAI e Anthropic adotando estruturas semelhantes.-Ele também se alinham com discussões acadêmicas em a ética da Machine learning, incluindo trabalho sobre justiça algorítmica e transparência. Os princípios influenciaram as decisões de produtos do Google, como a restrição de determinados recursos de reconhecimento facial e a recusa em for- com IA para sistemas de armas.
Impacto e Críticas
Os Google AI Principles tiveram um impacto significativo na governança corporativa da IA, servindo como modelo para outras empresas. Eles foram citados em literatura acadêmica e nos debates de políticas sobre ética de IA. No entanto, críticos argumentam que os princípios não possuem mecanismos de aplicação próprios e que o contínuo trabalho do Google com militares e clientes governamentais para e questiona sua aplicação. Por exemplo, o Project Maven não foi renovado após a publicação dos princípios, mas o Google continuou outros contratos relacionados à defesa, citando a permissão dos princípios para aplicações não-armas.
Em 2023, o Google revisou seus princípios para remover compromissos team expilcionados de evitar "armas ou outras tecnologias cujo objetivo principal seja facilitar les ou ferimentos", uma mudança que gerou críticas de pesquisadores em ética de IA. A revisão foi vista como uma resposta às pressões competitivas da indústria, especialmente em relação a tecnologias de Generative AI e Large language model. A mudança evidenciou a tensão entre compromissos éticos e interesses comerciais, um desafio enfrentado por muitos desenvolv - de IA.
Legado
Os principais princípios do Google permanecem um ponto de referência nas discussões sobre IA responsável. Eles foram comparados a iniciativas semelhantes da Google DeepMind, que possui suas próprias estruturas de ética e segurança. Os princípios também se entrelaçam com esforços mais amplos para regular a IA, como o ai act da União Europeia, que aborda preocupações semelhantes sobre viés, transparência e responsabilidade. À medida que a IA continua evoluindo, os princípios servem como um marco histórico no esforço contínuo para alinhar o progresso técnico com os valores humanos.