Morgan Ross는 알고리즘 시스템의 공정성과 투명성에 초점을 맞춘 AI 정책 연구자입니다. Ross는 기계 학습 모델이 편향된 결과를 어떻게 초래할 수 있는지, 그리고 정책 프레임워크가 이러한 위험을 어떻게 완화할 수 있는지 조사합니다. 그들의 연구는 기술적 인공지능 개발과 거버넌스의 교차점에 있으며, 종종 학술 기관 및 산업 연구소와 협력합니다.
Ross는 알고리즘 감사, 설명 가능성 표준, 생성형 AI의 사회적 영향과 같은 주제를 다루는 여러 동료 검토 간행물과 정책 백서에 기여했습니다. 그들의 연구는 특히 채용, 의료, 형사 사법과 같은 고위험 영역에서 책임 있는 AI 배포에 관한 논의에서 자주 인용됩니다.
초기 경력 및 교육
Ross는 윤리적 AI에 초점을 맞춘 컴퓨터 과학 대학원 과정을 마치고 2018년 카네기 멜론 대학교에서 박사 학위를 받았습니다. 박사 연구 기간 동안 Ross는 분류 모델에서 상이한 영향을 탐지하는 방법을 개발했으며, 이 연구는 이후 국가 정책 권고에 영향을 미쳤습니다. 학계에 진출하기 전, Ross는 2011년부터 2013년까지 인텔에서 소프트웨어 엔지니어로 일하며 자동화된 의사 결정 시스템의 편향이라는 실질적인 문제를 처음 접했습니다.
주요 연구 기여
Ross의 2020년 논문 "블랙박스 모델을 위한 투명성 지표"는 신경망 시스템의 설명 가능성을 정량화하는 새로운 프레임워크를 도입했습니다. 이 연구는 여러 규제 기관에서 상업용 AI 제품 감사의 기준으로 채택되었습니다. 2022년, Ross는 대규모 언어 모델 출력의 공정성에 대한 포괄적인 연구를 공동 저술했으며, 10,000개 이상의 생성된 텍스트를 분석하여 체계적인 성별 및 인종 편향을 식별했습니다. 이 연구는 2023년 오픈AI와 앤트로픽이 채택한 자발적 산업 지침을 형성하는 데 중요한 역할을 했습니다.
Ross는 또한 2021년부터 2023년까지 스탠포드 AI 연구소와 함께 사후 해석 가능성을 위한 오픈 소스 도구를 개발하는 다년간 프로젝트를 주도했습니다. 현재 200개 이상의 조직에서 사용되는 이러한 도구는 실무자가 독점 가중치에 접근하지 않고도 트랜스포머 모델의 특징 기여도를 시각화할 수 있게 합니다.
정책 및 자문 활동
2019년부터 Ross는 버클리 AI 연구 그룹의 정책 자문관으로 활동하며 알고리즘 책임에 관한 주 차원의 법안에 기여했습니다. 2021년, Ross는 연방 조달에서 표준화된 공정성 벤치마크의 필요성에 대해 미국 하원 소위원회에서 증언했습니다. 그들의 권고는 2022년 AI 권리 장전 프레임워크에 통합되었으며, 이는 Ross의 투명성 지표를 모범 사례로 언급합니다.
Ross는 또한 2023년 유럽 연합 AI 사무소와의 AI 법 시행에 관한 협의를 포함하여 국제 기구와 협력했습니다. 그들의 의견은 특히 금융 및 의료 부문에서 고위험 시스템의 설명 가능성 요구 사항을 형성하는 데 도움이 되었습니다.
공공 참여 및 교육
Ross는 2019년, 2021년, 2023년에 발표한 공정성, 책임, 투명성 회의(FAccT)와 같은 컨퍼런스에서 자주 연사로 활동합니다. 또한 2022년 옥스퍼드 대학교에서 방문 강사로 AI 윤리에 관한 대학원 과정을 가르쳤습니다. Ross는 기술 연구를 접근 가능한 정책 브리핑으로 전환하는 활발한 블로그를 운영하며, 월 50,000명 이상의 독자에게 도달하고 있습니다.
2024년, Ross는 150개의 상용 AI 시스템을 다루는 알고리즘 감사 결과의 공개 데이터 세트를 출시했습니다. 아마존 웹 서비스가 호스팅하는 이 리소스는 독립 연구자가 공정성과 투명성에 대한 공급업체 주장을 검증할 수 있게 합니다.
인정 및 향후 방향
Ross는 연구와 규제를 연결한 기여를 인정받아 책임 있는 기술 연구소로부터 2023년 AI 정책 영향 상을 받았습니다. 또한 2024년 주요 기술 간행물에서 "AI 영향력 있는 인물 100인" 중 한 명으로 선정되었습니다.
현재 작업에는 구글 딥마인드와의 협력을 통해 변화하는 데이터 분포에 적응하는 동적 공정성 지표 개발이 포함됩니다. Ross는 또한 인간 피드백으로부터의 강화 학습이 투명성 요구 사항과 어떻게 정렬될 수 있는지 탐구하고 있으며, 이 프로젝트는 2026년까지 국립 과학 재단의 자금 지원을 받습니다.
Ross는 고위험 AI 시스템에 대한 의무적 제3자 감사를 계속 주장하며, 자발적 조치는 충분하지 않다고 주장합니다. 그들의 지속적인 연구는 소규모 및 대규모 조직 모두에게 기술적으로 엄격하고 실질적으로 구현 가능한 표준화된 인증 프로세스를 만드는 것을 목표로 합니다.
{"infobox": {"born": null, "died": null, "nationality": "미국", "known_for": ["기계 학습을 위한 공정성 지표", "대규모 언어 모델을 위한 투명성 프레임워크"], "affiliation": "카네기 멜론 대학교; 버클리 AI 연구", "awards": ["2023 AI 정책 영향 상"]}, "categories": ["ai-policy", "algorithmic-fairness", "machine-learning", "technology-ethics"]}