인공지능의 사회적 이익을 위한 협력체(Partnership on Artificial Intelligence to Benefit People and Society)는 일반적으로 인공지능 협력체(Partnership on AI, PAI)로 알려져 있으며, 인공지능의 책임 있는 사용을 위해 헌신하는 비영리 연합체이다. 2016년에 설립된 이 조직은 학계, 시민 사회, 산업계의 이해관계자들을 모아 기술 커뮤니티를 위한 모범 사례 권장안을 개발한다. 2024년 기준으로 PAI는 16개국에 걸쳐 126개 파트너 조직을 보유하고 있으며, 알고리즘 투명성에서 자동화의 사회적 영향에 이르는 다양한 문제를 다루고 있다.
이 연합체는 다중 이해관계자 모델로 운영되며, 기술 기업, 연구 기관, 옹호 단체의 관점을 통합한다. 그 작업은 원칙을 개발자, 정책 입안자, 대중을 위한 실행 가능한 지침으로 전환하는 데 초점을 맞추며, 기계 학습 및 생성형 인공지능과 같은 분야에서 혁신을 촉진하면서 위험을 완화하는 데 중점을 둔다.
역사
인공지능 협력체는 2016년 9월 28일에 공개적으로 발표되었으며, 창립 멤버로는 아마존, 페이스북, 구글, 딥마인드, 마이크로소프트, IBM이 포함되었다. 공동 임시 의장은 마이크로소프트 리서치의 에릭 호비츠와 딥마인드의 무스타파 술레이만이 맡았다. 2017년 1월에는 애플의 시리 고급 개발 책임자였던 톰 그루버가 이사회에 합류했다. 테라 라이언스는 2017년 10월에 창립 전무이사가 되었으며, 그녀는 미국 최고 기술 책임자 메건 스미스의 정책 고문으로서의 경험을 가져왔다.
바이두는 2018년 10월에 중국 기반 기업으로는 처음으로 합류했다. 2020년 11월에 PAI는 인공지능 관련 피해를 식별하고 평가하기 위한 공개 도구인 AI 사고 데이터베이스(AIID)를 출시했다. 이전에 이사회 멤버였던 레베카 핀레이가 임시 전무이사를 역임한 후 2021년 10월 26일에 CEO로 임명되었다. 2023년 2월에 PAI는 1년간의 협력 과정을 거쳐 어도비, BBC, 오픈AI, 틱톡을 포함한 파트너들의 지원을 받아 윤리적 합성 미디어를 위한 프레임워크를 도입했다.
사명과 원칙
PAI는 그 작업을 다섯 가지 프로그램 영역으로 구성한다: AI와 미디어 무결성; AI, 노동, 경제; 정의, 투명성, 책임성; 포용적 연구와 설계; AI 보안. 각 프로그램은 실질적 영향을 목표로 하는 방법론적 도구, 보고서, 지침을 생산한다. AI와 미디어 무결성 프로그램은 AI가 유해한 콘텐츠를 증폭시킬 가능성을 다루는 반면, AI, 노동, 경제 프로그램은 포용적 경제 정책을 형성하기 위해 경제학자와 노동자 대표를 소집한다.
공정성, 투명성, 책임성 프로그램은 알고리즘 형평성과 설명 가능성을 위한 표준을 개발하며, AI 개발에 커뮤니티 참여를 촉진하는 포용적 연구와 설계 프로그램을 보완한다. 안전 중요 AI 프로그램은 의학과 교통과 같은 고위험 분야에 초점을 맞추며, AI 사고 데이터베이스와 SafeLife 학습 환경과 같은 이니셔티브를 감독한다. 이 조직은 또한 사회적 유용성을 강조하며, 공공 복지, 교육, 지속 가능성 분야에서 AI 응용을 탐구한다.
프로그램과 이니셔티브
핵심 이니셔티브는 AI 모델의 안전한 배포를 위한 프레임워크로, 제공자가 진화하는 역량과 사회적 위험을 관리하도록 안내한다. PAI는 또한 구글 딥마인드와 협력하여 기술 분야에서 여성과 소수 집단의 이탈률에 관한 연구를 수행한다. 설명 가능성 영역에서 이 조직은 설명 가능한 AI(XAI) 배포에 관한 워크숍을 주최하여 산업 전문가들이 실질적 과제를 논의하도록 모았다.
퍼스트 드래프트와 협력하여 PAI는 기만적인 온라인 콘텐츠에 대응하기 위한 전략을 조사했으며, 이는 정보 무결성에 대한 체계적인 접근 방식을 반영한다. AI 사고 데이터베이스는 위험 관리 관행을 알리기 위해 실제 사례를 목록화하는 핵심 자원으로 남아 있다. 2021년 8월에 PAI가 미국 국립표준기술연구소(NIST)에 제출한 응답은 기계 학습 수명 주기를 문서화하는 ABOUT ML 프로젝트를 포함한 이러한 노력을 NIST의 AI 위험 관리 프레임워크와 일치하는 것으로 강조했다.
영향과 거버넌스
PAI의 거버넌스 구조는 파트너 조직에서 선출된 이사회를 포함하며, 창립 이후 리더십 전환이 기록되어 있다. 이 연합체는 6개 창립 기업에서 120개 이상의 파트너로 성장하여 여러 분야에 걸쳐 영향력을 확장하고 있음을 보여준다. 그 권장안은 특히 AI 위험 관리와 합성 미디어 거버넌스에 관한 정책 논의에서 참조되었다. 이 조직은 인공지능 기술이 진화함에 따라 혁신과 책임성을 균형 있게 유지하면서 우선순위를 계속 조정하고 있다.
2024년 기준으로 PAI는 미디어 무결성, 노동, 안전 분야의 지속적인 프로젝트를 통해 책임 있는 AI에 관한 글로벌 대화를 형성하는 데 활발히 참여하고 있다. 그 협력적 모델은 순수 산업 주도 노력과 구별되며, 기술 및 정책 결정에 다양한 목소리를 통합하는 것을 목표로 한다.