The AI Now Institute (AI Now) é um instituto de pesquisa americano que estuda as implicações sociais da inteligência artificial e conduce pesquisa de políticas públicas que aborda a concentração de poder na indústria tecnológica. Fundado em 2017 e sediado na Universidade de Nova York, é reconhecido como o primeiro instituto de pesquisa universitário dedicado às implicações sociais da IA e o primeiro instituto de IA fundado e liderado por mulheres. O instituto tem feito parcerias com organizações como o Distributed AI Research Institute (DAIR), Data & Society, o Ada Lovelace Institute, a Tandon School of Engineering da Universidade de Nova York, o Center for Data Science da Universidade de Nova York, a Partnership on AI e a ACLU.
AI Now produz relatórios anuais que examinan como a IA afeta a sociedade, com foco em questões como desigualdade, trabalho e ética. Sua liderança também desempeñou funções consultivas, incluindo como Assessores Sênior de IA para a Presidenta Lina Khan na Federal Trade Commission durante 2021–22. Até as informações mais recentes disponíveis, sua diretora executiva é Amba Kak.
Fundação
AI Now surgiu de um simposio de 2016 organizado pelo Escritório de Política Científica e Tecnológica da Casa Branca sob a administração Obama. O evento foi liderado por Meredith Whittaker, fundadora do Open Research Group da Google, e Kate Crawford, pesquisadora principal da Microsoft Research. O simposio se concentró nas implicações de curto prazo da IA em domínios sociais, incluindo desigualdade, trabalho, ética e saúde.
Em novembro de 2017, AI Now realizó um segundo simposio sobre IA e questões sociais e lançó publicamente o AI Now Institute em parceria com a Universidade de Nova York. O instituto foi inicialmente alojado na NYU, mas desde então se tornó uma organização totalmente independente. Sua fundação foi notável por ser liderada por mulheres em um campo onde os papeles de liderança eram predominantemente ocupados por homens.
Missão
Em uma entrevista com NPR, Kate Crawford declaró que a motivação para fundar AI Now foi a observação de que a aplicação da IA em domínios sociais - como saúde, educação e justicia penal - estava sendo tratada como um problema puramente técnico. O objetivo do instituto é reformular estas questões como problemas sociais em primeiro lugar, trazendo expertos de domínio de campos como sociología, direito e história para estudar as implicações da IA. Esta abordagem interdisciplinaria distingue AI Now de muitos centros de pesquisa técnica que se concentran principalmente em avançar as capacidades de aprendizaje automático.
A missão do instituto também enfatiza abordar a concentración de poder na indústria tecnológica, que considera uma questão central na governança da IA. Este foco tem levado a colaborações com organizações da sociedade civil e grupos de defensa, bem como a interação com órgãos reguladores.
Pesquisa
AI Now publica um relatório anual sobre o estado da IA e sua integração na sociedade. Seu informe de 2017 argumentó que "as estruturas atuais de ética da IA estão falhando" e proporcionó dez recomendações estratégicas para o campo, incluindo testes pré-lanzamiento de sistemas de IA e maior pesquisa sobre viés e diversidade. O informe foi notado por pedir o fim dos sistemas de "caixa negra" em domínios sociais centrais, como aqueles responsáveis pela justicia penal, saúde, bemestar e educação.
Em abril de 2018, AI Now lançó um marco para avaliações de impacto algorítmico (AIAs), diseñado como uma forma para que os governos avalúen o uso da IA em agências públicas. Segundo AI Now, uma AIA seria semelhante a uma avaliação de impacto ambiental, exigindo divulgación pública e acesso para expertos externos para avaliar os efeitos de um sistema de IA e qualquer consequência não intencionada. Isso permitiría que os sistemas fossem examinados para questões como resultados sesgados ou datos de entrenamiento sesgados, que os pesquisadores já haviam identificado em sistemas algorítmicos implantados em todo o país.
Seu informe de 2023 argumentó que uma reforma significativa do setor tecnológico deve concentrarse em abordar o poder concentrado na indústria tecnológica. Este informe continuó o ênfasis do instituto em questões estruturais em lugar de soluções puramente técnicas, defendendo cambios de políticas que redistribuirían o poder longe de um pequeno número de grandes corporações.
Colaborações e Influência
AI Now tem feito parcerias com uma variedade de organizações académicas e de defensa, incluindo o Distributed AI Research Institute (DAIR), Data & Society, o Ada Lovelace Institute e a Partnership on AI. Estas colaborações têm extendido seu alcance além da academia até a política e a sociedade civil. O trabalho do instituto tem sido citado em discusiones sobre regulación de IA, e sua liderança tem proporcionado testemunho de expertos e aportes consultivos a órgãos governamentais.
Em 2021–22, a liderança de AI Now serviu como Assessores Sênior de IA para a Presidenta Lina Khan na Federal Trade Commission, indicando sua influencia nas discusiones de política federal. A pesquisa do instituto também tem informado debates sobre IA generativa e seus impactos sociais, embora seu foco permanezca nas dimensiones sociais e políticas más amplas da IA em lugar de desenvolvimentos técnicos específicos.