Inioluwa Deborah Raji(1995/1996년 출생)는 나이지리아계 캐나다인 컴퓨터 과학자이자 사회기술적 연구자로, 알고리즘 편향, 알고리즘 책임성, 기계 학습 시스템의 감사 관행을 전문으로 연구한다. 모질라 펠로우로서 그녀는 MIT 테크놀로지 리뷰와 포브스로부터 세계 최고의 젊은 혁신가 중 한 명으로 인정받았다. 그녀의 연구는 상업용 얼굴 인식 기술의 편향을 폭로하고 AI 산업을 위한 문서화 및 평가 표준을 개발하는 데 중점을 두었다.
Raji는 기계 학습 스타트업인 Clarifai에서 인턴십을 하는 동안 기술에서의 인종적 편향을 처음 접했는데, 자동화된 시스템이 백인보다 유색인종을 더 자주 NSFW(직장 내 부적절) 콘텐츠로 분류하는 것을 관찰했다. 이는 알고리즘 정의 연맹(Algorithmic Justice League) 및 구글의 윤리적 AI 팀과의 협력으로 이어지는 연구 경로를 시작했으며, 얼굴 인식 분야의 정책 변화와 시장 변화에 기여했다.
초기 생애 및 교육
Raji는 나이지리아 포트하코트에서 태어나 네 살 때 캐나다 온타리오주 미시소가로 이주했으며, 가족은 이후 오타와로 이주했다. 그녀는 Colonel By Secondary School에서 국제 바칼로레아 과정을 이수했다. 이후 토론토 대학교에서 공학 과학을 전공하여 2019년에 졸업했다. 학부 시절인 2015년, 그녀는 그레이터토론토 지역의 저소득층 및 이민자 커뮤니티를 위한 공학 교육, 멘토링, 자원 접근성을 개선하는 것을 목표로 하는 비영리 조직인 Project Include를 설립했다. 2021년 8월, 그녀는 캘리포니아 대학교 버클리에서 컴퓨터 과학 박사 과정을 시작했다.
경력 및 연구
Raji의 초기 경력에는 MIT 미디어 랩과 알고리즘 정의 연맹에서 Joy Buolamwini와 함께한 작업이 포함된다. 그녀의 AI 감사 연구는 Microsoft, Amazon, IBM, Face++, Kairos의 상업용 얼굴 인식 시스템을 조사했다. 그들의 연구 결과는 이러한 기술이 백인 남성에 비해 피부색이 어두운 여성에게 훨씬 덜 정확하다는 것을 보여주었으며, 피부색이 어두운 여성의 오류율은 약 35%에 달하는 반면 백인 남성의 경우 1% 미만이었다. 주요 연구자들의 지지와 공개 캠페인에 힘입어, 이 연구는 IBM과 Amazon이 얼굴 인식 규제를 지지하고 이후 최소 1년간 법 집행 기관에 대한 시스템 판매를 중단하도록 압박했다.
Clarifai에서 Raji는 부적절한 이미지를 NSFW로 분류하도록 설계된 기계 학습 모델을 작업했으며, 이 과정에서 처음으로 인종에 기반한 차별적 영향을 식별했다. 이후 그녀는 구글의 연구 멘토링 프로그램에 참여하여 윤리적 AI 팀과 협력하여 모델 카드(model cards) - 신경망 모델 특성의 투명한 보고를 위한 표준화된 문서화 프레임워크 - 를 개발했다. Raji는 구글에서 내부 감사 관행을 공동 주도했으며, AAAI 컨퍼런스와 ACM 공정성, 책임성, 투명성 컨퍼런스에서 연구를 발표했다.
2019년에는 파트너십 온 AI(Partnership on AI)에서 여름 연구 펠로우로 활동하며 산업 전반의 기계 학습 투명성 표준과 벤치마킹 규범에 집중했다. 뉴욕 대학교의 AI Now 연구소에서 기술 펠로우로 재직하며 딥러닝 엔지니어링 실무에서 윤리적 고려 사항을 운영화하는 연구에 기여했다. 현재 그녀의 모질라 펠로우십은 알고리즘 감사 및 평가 방법을 계속 탐구하고 있다.
대중적 인정 및 미디어
Raji의 연구는 Shalini Kantayya가 감독한 2020년 다큐멘터리 Coded Bias를 통해 널리 주목받았으며, 이 영화에는 그녀의 기여와 함께 다른 저명한 연구자들이 등장했다. 그녀는 또한 Daniel Roher가 감독한 2026년 다큐멘터리 The AI Doc: Or How I Became an Apocaloptimist에도 참여했다. 그녀의 연구 결과는 얼굴 인식 금지 및 AI 거버넌스에 관한 정책 논쟁에서 인용되었다.AI 시스템"생성형 AI"[BUT]*수상 부문으로 전환
수상
Raji는 책임 있는 AI에 대한 그녀의 기여를 인정받아 수많은 영예를 받았다. 2019년에는 Venture Beat AI 혁신상의 AI for Good 부문에서 Joy Buolamwini 및 Timnit Gebru와 공동 수상했다. 이듬해에는 MIT 테크놀로지 리뷰 35 Under 35 혁신가로 선정되었고, 다시 Buolamwini 및 Gebru와 함께 EFF 파이오니어 상을 수상했다. 2021년에는 엔터프라이즈 기술 부문 포브스 30 Under 30 상을 받았고, 100대 AI 윤리 분야 우수 여성 명예의 전당 수상자로 선정되었다. 2023년에는 타임지가 그녀를 AI 분야 가장 영향력 있는 100인 중 한 명으로 선정했다. 이러한 영예는 기계 학습 시스템에 대한 더 큰 책임성을 향한 산업 관행 변화에 대한 그녀의 영향력을 반영한다.