Fundación
AI Now surgió de un simposio de 2016 organizado por la Oficina de Política Científica y Tecnológica de la Casa Blanca durante la administración de Obama. El evento fue dirigido por Meredith Whittaker, fundadora del Grupo de Investigación Abierta de Google, y Kate Crawford, investigadora principal de Microsoft Research. El simposio se centró en las implicaciones a corto plazo de la IA en ámbitos sociales, incluyendo desigualdad, trabajo, ética y atención médica.
En noviembre de 2017, AI Now celebró un segundo simposio sobre IA y cuestiones sociales y lanzó públicamente el Instituto AI Now en asociación con la Universidad de Nueva York. El instituto se alojó inicialmente en la NYU, pero desde entonces se ha convertido en una organización totalmente independiente. Su fundación fue notable por estar dirigida por mujeres en un campo donde los roles de liderazgo estaban predominantemente ocupados por hombres.
Misión
En una entrevista con NPR, Kate Crawford declaró que la motivación para fundar AI Now fue la observación de que la aplicación de la IA en ámbitos sociales -como la atención médica, la educación y la justicia penal- estaba siendo tratada como un problema puramente técnico. El objetivo del instituto es replantear estos como problemas sociales en primer lugar, incorporando expertos de campos como la sociología, el derecho y la historia para estudiar las implicaciones de la IA. Este enfoque interdisciplinario distingue a AI Now de muchos centros de investigación técnica que se centran principalmente en avanzar en las capacidades del aprendizaje automático.
La misión del instituto también enfatiza abordar la concentración de poder en la industria tecnológica, que considera una cuestión central en la gobernanza de la IA. Este enfoque ha llevado a colaboraciones con organizaciones de la sociedad civil y grupos de defensa, así como a la participación con organismos reguladores.
Investigación
AI Now publica un informe anual sobre el estado de la IA y su integración en la sociedad. Su informe de 2017 argumentó que "los marcos actuales de la ética de la IA están fallando" y proporcionó diez recomendaciones estratégicas para el campo, incluyendo ensayos previos al lanzamiento de sistemas de IA y una mayor investigación sobre sesgos y diversidad. El informe fue señalado por pedir el fin de los sistemas de "caja negra" en ámbitos sociales centrales, como los responsables de la justicia penal, la atención médica, el bienestar y la educación.
En abril de 2018, AI Now publicó un marco para evaluaciones de impacto algorítmico (AIA), diseñado como una forma para que los gobiernos evalúen el uso de la IA en agencias públicas. Según AI Now, una AIA sería similar a una evaluación de impacto ambiental, requiriendo divulgación pública y acceso para que expertos externos evalúen los efectos de un sistema de IA y sus consecuencias no intencionadas. Esto permitiría examinar los sistemas en busca de resultados sesgados o datos de entrenamiento distorsionados, que los investigadores ya habían identificado en sistemas algorítmicos desplegados en todo el país.
Su informe de 2023 argumentó que una reforma significativa del sector tecnológico debe centrarse en abordar la concentración de poder en la industria tecnológica. Este informe continuó el énfasis del instituto en cuestiones estructurales en lugar de soluciones puramente técnicas, abogando por cambios de políticas que redistribuyan el poder lejos de un pequeño número de grandes corporaciones.
Colaboraciones e Influencia
AI Now se ha asociado con una variedad de organizaciones académicas y de defensa, incluyendo el Instituto de Investigación de IA Distribuida (DAIR), Data & Society, el Instituto Ada Lovelace y la Alianza sobre IA. Estas colaboraciones han extendido su alcance más allá del ámbito académico hacia la política y la sociedad civil. El trabajo del instituto ha sido citado en discusiones sobre regulación de la IA, y su liderazgo ha proporcionado testimonio experto y asesoramiento a organismos gubernamentales.
En 2021-22, el liderazgo de AI Now sirvió como asesores senior en IA para la presidenta Lina Khan en la Comisión Federal de Comercio, lo que indica su influencia en los debates de política federal. La investigación del instituto también ha informado debates sobre la IA generativa y sus impactos sociales, aunque su enfoque sigue siendo las dimensiones sociales y políticas más amplias de la IA en lugar de desarrollos técnicos específicos.