AI Now研究所（AI Now）是一家美国研究机构，研究人工智能的社会影响，并开展针对科技行业权力集中问题的政策研究。该机构成立于2017年，总部位于纽约大学，被公认为首个专门研究人工智能社会影响的大学研究机构，也是首个由女性创立并领导的AI机构。该研究所与多个组织合作，包括分布式人工智能研究所（DAIR）、数据与社会（Data & Society）、阿达·洛夫莱斯研究所（Ada Lovelace Institute）、纽约大学坦登工程学院、纽约大学数据科学中心、人工智能合作伙伴关系（Partnership on AI）以及美国公民自由联盟（ACLU）。
AI Now每年发布报告，审视AI如何影响社会，重点关注不平等、劳动和伦理等问题。其领导层还担任过顾问角色，包括在2021-22年间担任联邦贸易委员会主席莉娜·汗（Lina Khan）的AI高级顾问。根据最新可用信息，其执行主任是安巴·卡克（Amba Kak）。
成立
AI Now源于2016年由奥巴马政府白宫科技政策办公室组织的一次研讨会。该活动由谷歌开放研究小组创始人梅雷迪思·惠特克（Meredith Whittaker）和微软研究院首席研究员凯特·克劳福德（Kate Crawford）牵头。研讨会聚焦于AI在社会领域（包括不平等、劳动、伦理和医疗保健）的近期影响。
2017年11月，AI Now举办了第二次关于AI与社会问题的研讨会，并与纽约大学合作公开推出了AI Now研究所。该研究所最初设在纽约大学，但此后已成为一个完全独立的组织。其成立值得注意的是，在一个领导角色主要由男性主导的领域中，该机构由女性领导。
使命
在接受NPR采访时，凯特·克劳福德表示，创立AI Now的动机是观察到AI在医疗保健、教育和刑事司法等社会领域的应用被当作纯粹的技术问题来处理。该研究所的目标是首先将这些重新定义为社会问题，引入社会学、法律和历史等领域的专家来研究AI的影响。这种跨学科方法使AI Now区别于许多主要专注于推进机器学习能力的技术研究中心。
该研究所的使命还强调解决科技行业中的权力集中问题，它认为这是AI治理的核心问题。这一关注点促成了与公民社会组织、倡导团体以及监管机构的合作。
研究
AI Now每年发布一份关于AI现状及其融入社会的报告。其2017年报告认为“当前AI伦理的框架正在失败”，并为该领域提供了十项战略建议，包括AI系统的预发布试验以及增加对偏见和多样性的研究。该报告因呼吁在核心社会领域（如刑事司法、医疗保健、福利和教育）终止“黑箱”系统而受到关注。
2018年4月，AI Now发布了一套算法影响评估（AIA）框架，旨在为政府评估AI在公共机构中的使用提供方法。据AI Now称，AIA类似于环境影响评估，要求公开披露并允许外部专家评估AI系统的影响及任何意外后果。这将使系统能够接受诸如偏见结果或偏斜训练数据等问题的审查，研究人员已在全美部署的算法系统中发现了这些问题。
其2023年报告认为，对科技行业进行有意义的改革必须侧重于解决科技行业中的权力集中问题。该报告延续了该研究所对结构性问题而非纯技术修复的强调，倡导通过政策变革将权力从少数大型企业手中重新分配。
合作与影响
AI Now与一系列学术和倡导组织合作，包括分布式人工智能研究所（DAIR）、数据与社会、阿达·洛夫莱斯研究所和人工智能合作伙伴关系。这些合作将其影响力从学术界扩展到政策和公民社会领域。该研究所的工作在AI监管讨论中被引用，其领导层也为政府机构提供了专家证词和咨询意见。
在2021-22年间，AI Now的领导层担任联邦贸易委员会主席莉娜·汗的AI高级顾问，表明其对联邦政策讨论的影响力。该研究所的研究也为关于生成式AI及其社会影响的讨论提供了信息，尽管其关注点仍在于AI更广泛的社会和政治维度，而非具体的技术发展。