소렐 프리들러(Sorelle Friedler)는 컴퓨터 과학자이자 하버포드 칼리지(Haverford College)의 교수로, 머신러닝의 알고리즘 공정성과 투명성에 관한 연구를 이끌고 있다. 그녀는 자동화된 의사 결정 시스템에서 공정성을 정의하고 실제로 구현하는 데 기여한 공로를 인정받고 있으며, 특히 ACM FAT*(공정성, 책임성, 투명성) 학회의 공동 의장을 역임했다. 그녀의 연구는 이론 컴퓨터 과학과 인공지능의 사회적 영향 사이를 잇는 다리 역할을 한다.
프리들러의 연구는 데이터와 알고리즘의 편향이 사회적 불평등을 지속시키거나 악화시킬 수 있는 방식에 초점을 맞춘다. 그녀는 공정성의 수학적 기초에 관한 영향력 있는 논문을 발표했으며, 여기에는 여러 공정성 기준을 동시에 충족하는 것이 불가능하다는 내용도 포함된다. 그녀의 학문적 성과는 채용, 형사 사법, 대출 분야에서 머신러닝 사용에 관한 정책 논의를 형성하는 데 기여했다.
학문적 경력
프리들러는 메릴랜드 대학교(University of Maryland)에서 박사 학위를 받았으며, 그곳에서 계산 기하학과 위상수학을 연구했다. 그녀는 2012년 하버포드 칼리지의 교수진에 합류하여 컴퓨터 과학과의 정교수가 되었다. 하버포드에서 그녀는 데이터 과학 프로그램을 설립했으며, 이후 대학원에서 컴퓨팅을 공부하게 된 많은 학부 연구자들을 멘토링했다.
그녀의 초기 계산 기하학 연구는 이후 알고리즘 분석의 기초를 마련했다. 그녀는 고차원 데이터 구조를 이해하기 위해 위상 데이터 분석을 적용했으며, 이는 이후 공정성 지표에 대한 그녀의 관심으로 이어졌다. 프리들러는 카네기 멜런 대학교를 포함한 여러 기관에서 방문 직위를 역임했으며, 학계와 산업계 전반의 연구자들과 협력해 왔다.
공정성 연구
프리들러의 기념비적인 2016년 논문 "공정성의 (불)가능성에 대하여"는 공동 저자들과 함께 단일 알고리즘이 모든 일반적인 공정성 정의를 동시에 충족할 수 없음을 증명했다. 이 결과는 불가능성 정리로 알려져 있으며, 알고리즘 공정성 문헌의 초석이 되었다. 이 논문은 개인 공정성(유사한 개인은 유사하게 대우받음)과 집단 공정성(인구 통계학적 집단 간 동등한 결과) 사이의 구분을 공식화했다.
그녀는 관찰 가능한 데이터의 프록시와 관찰 불가능한 실제 속성 사이의 간극을 설명하는 "구성적 공정성" 개념을 개발했다. 이 프레임워크는 실무자들이 공정성 개입이 언제 의미 있는지 식별하는 데 도움을 준다. 프리들러의 연구는 또한 분류 시스템에서 상이한 영향(disparate impact)을 탐지하는 방법을 포함한 알고리즘 감사를 위한 실용적인 도구를 도입했다.
그녀의 연구는 미국 국립과학재단(National Science Foundation)과 모질라 재단(Mozilla Foundation)의 보조금으로 지원받았다. 그녀는 자동화된 의사 결정의 투명성 필요성에 대해 정부 기관 앞에서 증언했으며, 알고리즘 책임성에 관한 시민 사회 단체에 자문을 제공해 왔다.
FAT* 학회 리더십
프리들러는 2018년 ACM FAT* 학회(현재 ACM FAccT)의 공동 의장을 역임했으며, 이 분야의 다른 주요 연구자들과 함께 일했다. 2014년 워크숍으로 시작된 이 학회는 사회-기술 시스템의 공정성, 책임성, 투명성에 관한 학제 간 연구의 주요 학술 행사로 성장했다. 그녀의 공동 의장 임기 동안 학회는 사회 과학과 법학 관점을 더 많이 포함하도록 범위를 확장했다.
그녀는 연구의 재현성과 윤리적 검토를 강조하는 학회의 동료 검토 과정을 확립하는 데 기여했다. 프리들러는 또한 주요 신경망 및 딥러닝 학회에서 관련 워크숍을 조직하는 데 관여하여, 주류 AI 연구 커뮤니티에 공정성 고려 사항을 도입했다.
교육 및 옹호 활동
하버포드에서 프리들러는 데이터 윤리와 알고리즘 정의에 관한 강의를 개발했으며, 컴퓨터 과학 교육 과정에 철학과 법학 텍스트를 통합했다. 그녀는 표준 머신러닝 교육에 공정성 분석을 포함해야 한다는 목소리를 높여 왔으며, 사회적 맥락 없는 기술 훈련은 불완전하다고 주장했다.
그녀는 머신러닝에서 공정성 향상 개입의 비교 연구에 관한 영향력 있는 논문 "머신러닝에서 공정성 향상 개입의 비교 연구"를 공동 집필했으며, 이 논문은 편향을 줄이는 다양한 방법을 실증적으로 평가했다. 이 연구는 실무자에게 실용적인 지침을 제공했으며 학계와 산업계 양쪽에서 널리 인용되었다. 프리들러는 수많은 학회에서 기조 연설을 했으며 알고리즘 편향에 대해 언론 매체에 출연해 왔다.
주요 발표 자료
그녀의 주목할 만한 발표 자료로는 "공정성의 (불)가능성에 대하여"(2016), "머신러닝에서 공정성 향상 개입의 비교 연구"(2019), "구성적 공정성"(2017)이 있다. 그녀의 논문은 ACM 공정성, 책임성, 투명성 학회, 국제 머신러닝 학회(International Conference on Machine Learning), 머신러닝 연구 저널(Journal of Machine Learning Research)을 포함한 최고 수준의 학술 행사와 저널에 게재되었다. 그녀는 또한 생성형 AI 및 자동화 시스템의 윤리적 영향에 대해 일반 대중을 대상으로 한 매체에도 글을 기고했다.
프리들러의 지속적인 연구는 트랜스포머 모델과 같은 신흥 기술의 공정성을 조사하며, 대규모 AI 시스템의 실제 배포에 초점을 맞추고 있다. 그녀는 정책 입안자 및 산업 그룹과 계속 협력하여 알고리즘 감사 및 책임성에 대한 표준을 개발하고 있다.
수상 및 인정
프리들러는 연구와 교육에 대한 여러 상을 수상했으며, 여기에는 하버포드 칼리지의 린드백 우수 교육상(Lindback Award for Distinguished Teaching)이 포함된다. 그녀는 컴퓨팅과 사회에 대한 기여로 ACM(Association for Computing Machinery)의 저명 회원으로 선정되었다. 그녀의 연구는 책임 있는 AI 개발에 관한 미국 국립 과학·공학·의학 아카데미(National Academies of Sciences, Engineering, and Medicine)의 보고서에도 소개되었다.