创立
AI Now研究所（AI Now）是一家美国研究机构，研究人工智能的社会影响，并开展针对科技行业权力集中问题的政策研究。该研究所成立于2017年，位于纽约大学，被公认为首个专门研究人工智能社会影响的大学研究机构，也是首个由女性创立并领导的AI研究机构。该研究所与多个组织建立了合作关系，包括分布式AI研究所（DAIR）、数据与社会（Data & Society）、阿达·洛夫莱斯研究所（Ada Lovelace Institute）、纽约大学坦登工程学院、纽约大学数据科学中心、AI伙伴关系（Partnership on AI）以及美国公民自由联盟（ACLU）。
AI Now每年发布报告，审视AI对社会的影响，重点关注不平等、劳动和伦理等问题。其领导层还担任顾问角色，包括在2021至2022年间担任联邦贸易委员会主席莉娜·汗的AI高级顾问。截至最新信息，该研究所的执行主任是阿姆巴·卡克。
创立
AI Now源于2016年由白宫科技政策办公室在奥巴马政府时期组织的一次研讨会。该活动由谷歌开放研究团队的创始人梅雷迪思·惠特克和微软研究院首席研究员凯特·克劳福德共同主持。研讨会聚焦于AI在社会领域的近期影响，包括不平等、劳动、伦理和医疗保健等问题。
2017年11月，AI Now举办了第二届关于AI与社会问题的研讨会，并与纽约大学合作正式成立了AI Now研究所。该研究所最初设在纽约大学，但此后已发展为一个完全独立的组织。其创立的一个显著特点是，在一个男性主导的领导领域中，该研究所由女性创立并领导。
使命
在接受美国国家公共电台（NPR）采访时，凯特·克劳福德表示，创立AI Now的动机是观察到AI在社会领域（如医疗保健、教育和刑事司法）的应用正被当作纯粹的技术问题来处理。该研究所的目标是首先将这些视为社会问题，引入社会学、法律和历史等领域的专家来研究AI的影响。这种跨学科的方法使AI Now区别于许多主要专注于推进机器学习能力的技术研究中心。
该研究所的使命还强调解决科技行业的权力集中问题，并将其视为AI治理中的核心议题。这一关注点促成了与民间社会组织和倡导团体的合作，以及与监管机构的互动。
研究
AI Now每年发布关于AI现状及其融入社会的报告。其2017年的报告指出，“当前AI伦理的框架正在失效”，并为该领域提出了十项战略建议，包括AI系统的发布前测试以及加强对偏见和多样性问题的研究。该报告因呼吁在核心社会领域（如刑事司法、医疗保健、福利和教育）终止“黑箱”系统而受到关注。
2018年4月，AI Now发布了一个算法影响评估（AIA）框架，旨在为政府评估AI在公共机构中的使用提供方法。根据AI Now的观点，AIA类似于环境影响评估，要求公开披露并允许外部专家评估AI系统的影响及任何意外后果。这将使系统能够接受审查，以发现偏见结果或偏差训练数据等问题，而研究人员此前已在部署于全国各地的算法系统中识别出这些问题。
其2023年的报告主张，对科技行业的实质性改革必须聚焦于解决科技行业的权力集中问题。该报告延续了研究所对结构性问题而非纯技术修复的强调，倡导通过政策变革来重新分配少数大型企业的权力。
合作与影响
AI Now与一系列学术和倡导组织建立了合作关系，包括分布式AI研究所（DAIR）、数据与社会（Data & Society）、阿达·洛夫莱斯研究所（Ada Lovelace Institute）和AI伙伴关系（Partnership on AI）。这些合作将其影响力扩展到了学术界之外，延伸至政策和公民社会领域。该研究所的工作在AI监管讨论中被广泛引用，其领导层也为政府机构提供了专家证词和咨询意见。
在2021至2022年间，AI Now的领导层担任了联邦贸易委员会主席莉娜·汗的AI高级顾问，这表明了其在联邦政策讨论中的影响力。该研究所的研究也为关于生成式AI及其社会影响的辩论提供了信息，尽管其关注点仍主要放在AI更广泛的社会和政治维度，而非具体的技术发展。