Timnu Gebru는 컴퓨터 과학자이자 AI 윤리 연구자로, 널리 인용되는 논문 "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?"의 공동 저자이자 2020년 12월 구글에서의 논란을 일으킨 퇴사로 잘 알려져 있다.
Gebru는 스탠포드 대학교에서 Fei-Fei Li의 지도 아래 컴퓨터 비전 박사 학위를 취득했으며, 초기 연구에는 Computer vision 분야의 상업용 얼굴 인식 및 분석 시스템의 인구통계학적 편향에 대한 연구가 포함되어 있었고, 이는 대표성 없는 데이터로 훈련된 AI 시스템에 대한 Algorithmic bias 연구의 더 넓은 흐름으로 이어졌다. 이후 그녀는 당시 가장 저명한 기업 AI 윤리 연구 그룹 중 하나였던 구글의 Ethical AI 팀을 공동 이끌었다.
Stochastic Parrots와 구글 퇴사
2021년, Gebru는 Emily Bender, Angelina McMillan-Major와 함께, 그리고 구글의 반대에 따라 가명으로 참여한 Margaret Mitchell과 함께 "On the Dangers of Stochastic Parrots" 논문을 발표했다. 이 논문은 점점 더 커지는 언어 모델이 선별되지 않은 웹 텍스트로 훈련될 때 환경 비용, 부호화된 사회적 편향, 훈련 데이터의 불투명성, 그리고 유창한 출력이 진정한 이해로 오인될 위험을 포함한 위험을 제기한다고 주장했다. 구글 내부에서 Gebru와 공동 저자들이 논문을 철회하거나 이름을 빼도록 요청받은 것을 둘러싼 의견 충돌은 공개적인 분쟁으로 이어졌다. 구글은 Gebru가 사임했다고 밝혔지만, Gebru와 많은 관찰자들은 이를 해고로 규정했다. 이 사건은 그녀의 Ethical AI 공동 리더인 Margaret Mitchell의 후속 퇴사와 함께 AI 연구 커뮤니티 안팎에서 광범위한 주목을 받았으며, 대형 기술 기업 내부의 AI ethics 연구에 관한 논쟁에서 중요한 사례로 자리 잡았다.
DAIR
2021년, Gebru는 독립적인 비기업 연구 기관인 Distributed AI Research Institute (DAIR)를 설립했다. 이 기관은 특히 소외된 커뮤니티에 미치는 AI의 피해를 연구하는 데 중점을 두며, 대형 기술 기업의 자금 및 인센티브 압력으로부터 의도적으로 벗어난 구조로 설계되었다. DAIR을 통해 Gebru는 AI ethics, AI governance 및 대규모 언어 모델과 생성형 AI 시스템의 확장이 그 사회적 비용에 대한 적절한 주의 없이 이루어질 때의 위험에 대해 계속해서 발표하고 발언해 왔다.
영향
Gebru의 사례는 기업 내부 AI 윤리 팀이 해당 기업의 제품을 의미 있게 제약할 수 있는지에 대한 논의에서 자주 언급된다. 또한 Stochastic Parrots 논문은 생성형 AI 시대에 가장 많이 인용되는 비판적 논문 중 하나로 남아 있으며, AI 개발의 주요 전략으로서의 규모 확장의 비용과 한계에 대한 논쟁을 계속해서 형성하고 있다.