앨리스 샹은 변호사이자 통계학자이며, 소니 그룹의 AI 거버넌스 글로벌 책임자이자 선임 연구 과학자이다. 그녀의 연구는 법, 통계, 그리고 인공지능의 교차점에 초점을 맞추며, 특히 AI 시스템의 공정성, 투명성, 책임성 문제를 다룬다. 2026년, 네이처는 그녀를 주목할 과학자 10인 중 한 명으로 선정하며 AI 데이터의 윤리적 기준 개발에 대한 그녀의 기여를 인정했다. 그녀는 또한 다양성, 편향 완화, 동의에 명시적으로 주의를 기울여 수집된 10,000개 이상의 이미지로 구성된 데이터셋인 공정 인간 중심 이미지 벤치마크(FHIBE)의 개발을 주도한 것으로 알려져 있다.
샹의 경력은 학계, 산업계, 비영리 연구를 아우른다. 소니에 합류하기 전, 그녀는 파트너십 온 AI에서 공정성, 투명성, 책임성 연구를 이끌었다. 그녀의 학문적 훈련은 하버드 대학교, 옥스퍼드 대학교, 예일 로스쿨에서의 학위를 포함하며, 이는 신흥 기술 거버넌스에 적용하는 다학제적 관점을 제공한다. 그녀는 피부 톤 편향, 윤리적 데이터 큐레이션, 알고리즘 공정성의 법적·기술적 과제와 같은 주제에 대한 영향력 있는 논문과 오피니언 기사를 저술했다.
교육 및 초기 경력
샹은 예일 로스쿨에서 법학 박사 학위를, 옥스퍼드 대학교에서 개발 경제학 석사 학위를, 하버드 대학교에서 경제학 학사 학위와 통계학 석사 학위를 취득했다. 이러한 법적·정량적 훈련의 결합은 그녀의 AI 윤리 접근 방식의 핵심으로, 기술적 모델 개발과 규제 프레임워크 사이의 간극을 메우는 데 기여한다.
경력 초기에 샹은 OpenAI, Google DeepMind, Apple, Amazon Web Services를 포함한 주요 기술 기업들이 설립한 비영리 조직인 파트너십 온 AI에서 일했다. 파트너십 온 AI에서 그녀는 공정성, 투명성, 책임성 연구 책임자로 재직하며 AI 시스템을 더 공평하게 만들고 그 결정을 사용자에게 설명하는 방법을 조사하는 프로젝트를 이끌었다. 그녀는 또한 베이징의 칭화 대학교에서 방문 학자 직위를 맡아 AI 거버넌스에 대한 국제적 관점을 더욱 넓혔다.
소니에서의 리더십
샹은 소니 그룹에 AI 거버넌스 글로벌 책임자이자 선임 연구 과학자로 합류했다. 이 역할에서 그녀는 회사의 AI 제품과 연구가 윤리적 원칙을 준수하도록 하는 전략을 총괄한다. 소니의 AI 이니셔티브는 소비자 가전에서 엔터테인먼트와 게임에 이르기까지 다양한 응용 분야를 포괄하며, 샹의 작업은 이러한 다양한 영역에 적용할 수 있는 거버넌스 프레임워크를 개발하는 것을 포함한다.
그녀의 리더십 아래 소니는 윤리적 데이터 수집과 큐레이션의 중요성을 강조해 왔다. 샹은 AI 시스템의 품질과 공정성이 훈련에 사용되는 데이터에 크게 의존한다고 주장하며, 동의, 다양성, 지적 재산권 보호를 우선시하는 업계 표준을 옹호해 왔다. 그녀의 소니에서의 작업은 특히 생성형 AI와 대규모 언어 모델의 맥락에서 회사를 책임 있는 AI 개발의 선두주자로 자리매김하게 했다.
공정 인간 중심 이미지 벤치마크(FHIBE)
샹의 가장 중요한 기여 중 하나는 10,000개 이상의 인간 이미지로 구성된 데이터셋인 공정 인간 중심 이미지 벤치마크(FHIBE)의 개발이다. 이 데이터셋은 다양성을 반영하고, 편향을 완화하며, 지적 재산권을 보호하고, 촬영된 개인의 동의를 포함한다는 명시적 목표로 만들어졌다. 이는 명시적 허가 없이 인터넷에서 스크래핑되고 특정 인구 통계 그룹을 과소 대표할 수 있는 많은 기존 이미지 데이터셋과는 차별화된다.
FHIBE는 2025년 11월 네이처에 제롬 T. A. 앤드루스, 레베카 L. 버크 등과 공동 저술한 논문으로 발표되었다. 이 데이터셋은 다양한 인구 통계 그룹 간 AI 모델 성능을 평가하기 위한 벤치마크 역할을 하여 연구자들이 머신 러닝 시스템의 편향을 식별하고 수정하는 데 도움을 주기 위한 것이다. 2026년, FHIBE는 패스트 컴퍼니의 세계 변화 아이디어 중 하나로 선정되어 AI 훈련 데이터의 소싱과 사용 방식을 재편할 잠재력을 강조했다.
공정성과 투명성에 대한 연구
샹은 AI의 공정성 보장 과제에 대해 광범위하게 출판해 왔다. 그녀의 작업은 종종 편향 완화를 위한 기술적 접근과 AI 시스템이 작동하는 법적·사회적 맥락 사이의 긴장을 다룬다. 2020년 테네시 법률 리뷰에 게재된 그녀의 논문 "알고리즘 편향에 대한 법적·기술적 접근의 조화"에서 그녀는 차별에 대한 법적 기준이 더 공정한 알고리즘 설계에 어떻게 정보를 제공할 수 있는지, 그리고 그 반대의 경우를 탐구했다.
또 다른 주목할 만한 기여는 맥케인 앤드루스, 엘레나 스피처, 제프리 브라운과 공동 저술한 2021년 논문 "측정할 수 없는 것은 이해할 수 없다: 공정성 추구에서 인구 통계 데이터 조달의 과제"이다. 이 논문은 AI 시스템을 편향 감사하기 위해 필요한 인구 통계 데이터 수집의 실질적 어려움, 즉 프라이버시 우려와 오분류 위험을 검토한다. 이 작업은 AI에서 공정성과 프라이버시의 균형에 대한 논쟁을 형성하는 데 영향력을 발휘했다.
샹은 또한 투명성의 한 형태로서 불확실성의 개념을 조사했다. 2021년 AAAI/ACM AI, 윤리 및 사회 회의에서 발표된 논문에서 그녀와 동료들은 AI 시스템이 사용자에게 불확실성을 전달하여 더 정보에 입각한 의사 결정을 가능하게 해야 한다고 주장했다. 이 관점은 AI 출력이 항상 높은 확신으로 제시되어야 한다는 일반적인 가정에 도전한다.
음성 생성기의 윤리적 피해
2024년, 샹은 비브케(투생) 후티리와 오레스티스 파파키리아코풀로스와 함께 "내 목소리가 아니다! 음성 생성기의 윤리적·안전 피해 분류"라는 제목의 논문을 공동 저술했다. 컴퓨팅 기계 협회가 주최한 회의에서 발표된 이 논문은 AI 생성 음성에서 발생할 수 있는 피해를 분류하기 위한 포괄적 프레임워크를 제공한다. 여기에는 신원 도용, 사칭, 잘못된 정보 확산뿐만 아니라 오디오 증거에 대한 신뢰 침식과 같은 덜 명백한 피해도 포함된다.
이 분류 체계는 딥 러닝과 신경망의 출현으로 점점 더 정교해진 음성 생성 기술과 관련된 위험을 개발자와 정책 입안자가 예측하고 완화하는 데 도움을 주기 위한 것이다. 이 분야에서의 샹의 작업은 생성 모델이 현실적인 콘텐츠를 생산하는 능력이 향상됨에 따라 AI의 사회적 영향에 대한 그녀의 더 넓은 관심을 반영한다.
인정과 수상
샹의 기여는 널리 인정받았다. 2021년, 그녀는 여성 AI 윤리 단체의 AI 윤리 분야 100대 우수 여성 목록에 포함되었다. 2025년, 그녀는 2024년 다이달로스 저널에 게재된 에세이 "거울아, 거울아, 벽 속에서 누가 가장 공정한가?"로 미래 프라이버시 포럼의 정책 입안자용 프라이버시 논문 상을 수상했다. 이 에세이는 컴퓨터 비전 시스템이 특히 소외된 그룹의 개인을 어떻게 잘못 볼 수 있는지 검토하고, 프라이버시와 가시성을 모두 고려한 더 미묘한 공정성 이해를 주장한다.
2026년, 그녀는 AI 매거진의 AI 분야 100대 여성에 선정되었고, 네이처는 그녀를 주목할 과학자 10인 목록에 포함시켰다. 이러한 영예는 기술 연구와 정책 개발 사이의 가교 역할을 하는 AI 윤리 분야에서 그녀의 영향력이 커지고 있음을 반영한다.
주요 저작 및 출판물
샹은 수많은 영향력 있는 논문을 저술하거나 공동 저술했다. 가장 많이 인용된 작품 중 하나는 2020년에 게재된 "배포에서의 설명 가능한 머신 러닝"으로, 실제 시스템에서 설명 가능성 기술을 구현하는 실질적 과제를 검토한다. 우망 바트 등과 공동 저술한 이 논문은 해석 가능성에 대한 학술 연구와 실무자의 요구 사이의 간극을 논의한다.
그녀의 출판 기록에는 2022년 하버드 법률 및 기술 저널에 게재된 "'보임' 대 '잘못 보임': 컴퓨터 비전에서 프라이버시와 공정성 사이의 긴장"과 같은 AI의 법적 차원에 대한 작업도 포함된다. 이 논문은 특히 감시와 얼굴 인식 기술에서 프라이버시 보호가 공정성 노력과 어떻게 충돌할 수 있는지 탐구한다.
학술 논문 외에도 샹은 포춘과 타임 매거진에 오피니언 기사를 기고하여 피부 톤 편향과 윤리적 데이터 큐레이션에 대한 그녀의 연구를 더 넓은 청중에게 전달했다. 복잡한 기술 문제를 접근 가능한 언어로 전환하는 그녀의 능력은 그녀를 AI 윤리에 대한 수요 높은 논평가로 만들었다.
영향과 유산
샹의 작업은 AI가 영향을 미치는 사람들에게 더 책임 있게 만드는 더 넓은 운동의 일부이다. 데이터 수집에서 배포에 이르기까지 AI 시스템의 전체 수명 주기에 초점을 맞춤으로써, 그녀는 대화를 순수한 기술적 성능에서 사회적 책임의 문제로 전환하는 데 기여했다. 소니에서의 그녀의 리더십과 학문적 기여는 혁신적이면서도 윤리적인 AI를 개발하려는 지속적인 노력에서 그녀를 핵심 인물로 자리매김한다.
AI가 사회의 모든 측면에 계속 스며들면서, 샹이 개발한 윤리적 데이터 큐레이션과 공정성 평가를 위한 프레임워크는 점점 더 중요해질 가능성이 높다. 특히 데이터 수집에서의 동의와 다양성에 대한 그녀의 강조는 기업이 개인 권리를 존중하면서도 높은 성능을 달성하는 AI 시스템을 구축할 수 있는 모델을 제공한다. 그녀의 연구, 옹호, 리더십을 통해 샹은 21세기 책임 있는 AI가 무엇인지 정의하는 데 기여하고 있다.