조이 볼람위니는 알고리즘 정의 연맹(Algorithmic Justice League)을 설립한 컴퓨터 과학자이자 디지털 활동가로, 인공지능의 편향을 식별하고 완화하는 데 전념하는 비영리 단체를 이끌고 있다. 그녀의 얼굴 인식 기술 연구는 인구 통계 집단 간 상당한 정확도 격차를 드러내며, 광범위한 산업 및 정책 변화를 촉구했다. 볼람위니는 또한 아동 도서 Unmasking AI의 저자이며, 책임 있는 AI를 위한 운동의 선도적 목소리로 인정받고 있다.
1989년 캐나다 앨버타주 에드먼턴에서 가나계 부모에게 태어난 볼람위니는 미국 미시시피주에서 성장했다. 그녀는 조지아 공과대학교에서 컴퓨터 과학 학사 학위를, 스탠포드 대학교에서 학습, 디자인, 기술 석사 학위를, 그리고 MIT 미디어 랩에서 박사 학위를 취득했다. 그녀의 박사 연구는 다프네 콜러 등의 지도 아래 얼굴 분석 시스템의 알고리즘 편향에 초점을 맞췄다.
젠더 셰이즈 프로젝트
볼람위니의 획기적인 연구인 "젠더 셰이즈"는 팀닛 게브루와 함께 진행되었으며, 마이크로소프트, IBM, 페이스++의 세 가지 상업용 얼굴 분석 시스템을 평가했다. 이 연구는 세 시스템 모두 어두운 피부의 여성에 대해 더 높은 오류율을 보였으며, 해당 집단의 오류율은 최대 34.7%에 달한 반면 밝은 피부의 남성은 0.8%에 그쳤다는 것을 발견했다. 이 결과는 2018년에 발표되어 광범위한 언론 보도를 받았고, 기업들이 알고리즘을 개선하겠다는 공개적 약속을 하게 만들었다. 이 연구는 또한 컴퓨터 비전의 편향 평가 지표로 피츠패트릭 피부 유형 척도를 도입했다.
알고리즘 정의 연맹
2016년, 볼람위니는 AI의 사회적 영향을 다루기 위해 알고리즘 정의 연맹(AJL)을 설립했다. 이 조직은 얼굴 인식, 예측 치안, 알고리즘 채용과 같은 문제에 대한 연구, 옹호 활동, 대중 교육을 수행한다. AJL은 안전 장치가 마련될 때까지 기업이 법 집행 기관에 얼굴 인식 기술을 판매하지 않도록 촉구하는 세이프 페이스 서약과 같은 이니셔티브를 시작했다. 이 연맹은 또한 예술가 및 연구자들과 협력하여 전시회와 미디어 프로젝트를 통해 인식을 높이고 있으며, 2020년 선댄스 영화제에서 초연된 다큐멘터리 Coded Bias를 포함한다.
옹호 및 정책 영향
볼람위니는 편향된 AI의 위험성에 대해 미국 의회에서 증언했으며, 그녀의 연구는 알고리즘 책임성에 관한 정책 논의에 영향을 미쳤다. 2019년, 그녀는 ACLU 및 다른 조직들과 공동 보고서를 작성하여 정부의 얼굴 인식 사용에 대한 유예를 촉구했다. 그녀의 옹호 활동은 아마존과 마이크로소프트가 2020년 경찰에 대한 얼굴 인식 기술 판매를 일시 중단하기로 한 결정에 기여했다. 볼람위니는 또한 유엔과 세계 경제 포럼에서 연설하며 포용적인 AI 개발의 필요성을 강조했다.
인정 및 수상
볼람위니는 2018년 포브스 30세 이하 30인 명단과 2023년 타임 AI 분야 가장 영향력 있는 100인에 선정되는 등 수많은 영예를 받았다. 그녀는 2020년 MIT 미디어 랩의 불복종 상을 수상했으며, 2022년에는 세계 경제 포럼의 차세대 글로벌 리더로 지정되었다. 2023년에 출판된 그녀의 저서 Unmasking AI는 내셔널 북 어워드 논픽션 부문 최종 후보에 올랐다. 볼람위니의 연구는 10,000개 이상의 학술 논문에서 인용되었으며, 그녀는 NeurIPS 및 ICML을 포함한 주요 학회에서 기조 연설을 했다.
현재 활동
2025년 현재, 볼람위니는 알고리즘 정의 연맹을 계속 이끌고 있으며 여러 AI 윤리 조직의 자문 위원회에서 활동하고 있다. 그녀는 스탠포드 대학교 인간 중심 AI 연구소의 방문 학자로 재직하며 알고리즘 정의에 관한 강의를 하고 있다. 그녀의 진행 중인 프로젝트에는 AI 시스템 감사 도구 개발과 기술 분야의 소외된 커뮤니티를 위한 교육 자료 제작이 포함된다. 볼람위니의 연구는 AI 산업이 편향과 공정성에 대한 더 엄격한 테스트를 채택하도록 이끄는 데 중요한 역할을 했다.