AI Now Institute는 인공지능의 사회적 영향과 기술 산업 내 권력 집중에 관한 정책 연구를 수행하는 미국의 연구 기관이다. 2017년에 설립되었으며 뉴욕 대학교에 기반을 두고 있다. 인공지능의 사회적 함의를 연구하는 최초의 대학 부속 연구소이자 여성이 설립하고 주도한 최초의 AI 연구소로 알려져 있다. 이 연구소는 DAIR, Data & Society, Ada Lovelace Institute, 뉴욕 대학교 탄던 공과대학, 뉴욕 대학교 데이터 과학 센터, Partnership on AI, ACLU 등 여러 기관과 협력해 왔다.
AI Now는 매년 보고서를 발간하여 불평등, 노동, 윤리 등 사회에 미치는 AI의 영향을 분석한다. 또한 연구소의 지도부는 2021년부터 2022년까지 연방거래위원회 위원장 리나 칸의 선임 AI 고문으로 활동하는 등 자문 역할도 수행해 왔다. 현재 소장은 암바 카크이다.
설립 배경
AI Now는 2016년 백악관 과학기술정책실이 오바마 행정부 시절 개최한 심포지엄에서 비롯되었다. 이 행사는 구글 오픈 리서치 그룹의 설립자인 메러디스 휘태커와 마이크로소프트 리서치의 수석 연구원이었던 케이트 크로퍼드가 주도했다. 심포지엄은 불평등, 노동, 윤리, 의료 등 사회 영역에서 AI의 단기적 영향에 초점을 맞추었다.
2017년 11월, AI Now는 두 번째 AI와 사회에 관한 심포지엄을 개최하고 뉴욕 대학교와 협력하여 AI Now Institute를 공식 출범시켰다. 연구소는 처음에는 뉴욕 대학교에 소속되어 있었으나 이후 완전히 독립된 조직이 되었다. 주목할 만한 점은 이 연구소가 전통적으로 남성이 주도해 온 AI 분야에서 여성들이 설립하고 이끌었다는 것이다.
사명
크로퍼드는 NPR과의 인터뷰에서 AI Now 설립의 동기는 AI가 의료, 교육, 형사 사법 등 사회 영역에 적용되는 과정이 순수한 기술적 문제로만 취급되는 것에 대한 문제의식이었다고 밝혔다. 연구소의 목표는 이러한 문제를 사회적 문제로 재구성하고 사회학, 법학, 역사학 등 다양한 분야의 전문가들을 참여시키는 것이다. 이러한 학제적 접근은 AI 역량 자체의 발전에만 집중하는 많은 기술 연구 기관들과 AI Now를 구별 짓는 특징이다.
또한 연구소의 사명은 기술 산업 내 권력 집중 문제를 해결하는 데에도 중점을 둔다. 이는 AI 거버넌스의 핵심 쟁점으로 간주되며, 연구소는 시민 사회 단체 및 옹호 단체와의 협력과 규제 기관과의 교류를 통해 이러한 문제를 다루고 있다.
연구 활동
AI Now는 매년 AI의 현황과 사회적 통합에 관한 보고서를 발간한다. 2017년 보고서는 "현재의 AI 윤리 논의는 실패하고 있다"고 주장하며, AI 시스템의 출시 전 평가 의무화, 편향 및 차별에 대한 연구 확대 등 10가지 정책 권고안을 제시했다. 이 보고서는 형사 사법, 의료, 복지, 교육 등 핵심 사회 영역에서의 '블랙박스' 시스템 사용 중단을 촉구한 것으로 주목을 받았다.
2018년 4월, AI Now는 정부 기관의 AI 사용을 평가하기 위한 알고리즘 영향 평가(AIA) 프레임워크를 발표했다. 이는 환경 영향 평가와 유사한 방식으로, AI 시스템의 영향을 공개하고 외부 전문가의 검토를 받도록 설계되었다. 이를 통해 편향된 결과나 왜곡된 훈련 데이터 등 알고리즘 시스템의 문제점을 사전에 식별하고자 했다.
2023년 보고서는 기술 산업의 의미 있는 개혁을 위해서는 권력 집중 문제를 해결해야 한다고 주장하며, 소수의 대기업에 집중된 권력을 분산시키는 정책 변화를 옹호했다.
협력 및 영향력
AI Now는 학계 및 옹호 단체와 폭넓은 협력 관계를 구축해 왔다. 주요 파트너로는 DAIR, Data & Society, Ada Lovelace Institute, 뉴욕 대학교 탄던 공과대학, 뉴욕 대학교 데이터 과학 센터, Partnership on AI, ACLU 등이 있다. 이러한 협력을 통해 연구소의 영향력은 학계를 넘어 정책 및 시민 사회 영역으로 확장되었다.
연구소의 연구 성과는 AI 규제에 관한 논의에서 자주 인용되며, 지도부는 정부 기관에 전문가 증언과 자문을 제공해 왔다. 특히 2021년부터 2022년까지 연구소의 지도부는 연방거래위원회 위원장 리나 칸의 선임 AI 고문으로 활동하며 연방 차원의 정책 논의에 직접 참여했다. 또한 AI Now의 연구는 생성형 AI와 그 사회적 영향에 관한 논쟁에도 영향을 미쳐 왔지만, 연구소의 핵심 관심사는 특정 기술 개발보다는 AI의 광범위한 사회적, 정치적 차원에 남아 있다.
같이 보기
- 인공지능
- 머신러닝
- 생성형 인공지능
- OpenAI