마가렛 미첼은 컴퓨터 과학자이자 인공지능 윤리 연구자로, 오픈소스 머신러닝 플랫폼으로 알려진 허깅 페이스에서 윤리적 AI 팀을 공동 창립했다. 그녀의 연구는 머신러닝 시스템의 편향을 식별하고 완화하는 데 초점을 맞추며, AI 모델의 문서화 관행을 개선하고, AI 개발에 더 포용적이고 책임 있는 접근 방식을 옹호하는 데 중점을 둔다. 그녀는 연구, 대중 연설, 그리고 AI 시스템 평가를 위한 널리 사용되는 프레임워크의 창출을 통해 이 분야에 기여해 왔다.
미첼의 경력은 인공지능 기술이 사회적 영향력을 고려하여 개발되도록 보장하려는 헌신에 의해 형성되었다. 그녀는 AI 시스템이 유해한 고정관념을 영속화할 위험에 대해 특히 목소리를 높여 왔으며, 모델의 내부 작동을 연구자와 대중에게 더 투명하게 만드는 방법을 연구해 왔다. 그녀의 노력은 딥러닝과 생성형 AI 같은 기술의 윤리적 함의를 검토하는 신흥 학문인 AI 윤리 분야에서 그녀를 선도적인 목소리로 자리매김하게 했다.
초기 경력 및 연구
미첼은 컴퓨터가 인간 언어를 이해하고 생성할 수 있게 하는 AI의 하위 분야인 자연어 처리에서 전문 경력을 시작했다. 그녀는 컴퓨터 과학 박사 학위를 취득했으며, 초기 연구는 언어 모델이 단어와 개념 간의 연관성을 어떻게 학습하는지 탐구했다. 이 기초 작업은 그녀가 이러한 모델이 훈련 데이터에서 성별, 인종, 민족과 관련된 사회적 편향을 무의식적으로 인코딩할 수 있는 방법을 조사하도록 이끌었다.
연구자로 활동하는 동안 그녀는 다른 과학자들과 협력하여 많은 신경망 모델이 사용하는 단어의 수치적 표현인 단어 임베딩에서 편향을 측정하는 방법을 개발했다. 그녀의 발견은 대규모 텍스트 말뭉치로 훈련된 AI 시스템이 종종 그 텍스트에 존재하는 편견을 반영한다는 점을 강조했으며, 이는 대규모 언어 모델의 규모와 영향력이 커짐에 따라 점점 더 중요한 문제가 되었다.
구글과 마이크로소프트에서의 기여
미첼은 구글에서 AI 윤리 부서의 선임 연구 과학자로 근무했다. 구글에서 그녀는 AI 개발자가 모델의 의도된 용도, 성능, 한계에 대한 정보를 공개하도록 장려하는 문서화 프레임워크인 모델 카드에 관한 획기적인 논문을 공동 저술했다. 모델 카드 접근 방식은 이후 책임 있는 AI 배포를 위한 모범 사례로 많은 조직에서 채택되었다.
구글에서의 재임 기간 동안 그녀는 현대 언어 모델의 구성 요소인 트랜스포머 아키텍처의 윤리적 과제를 연구했다. 그녀는 이러한 모델이 편향된 출력을 생성할 수 있는 방법을 조사하고, 훈련 데이터 필터링과 공정성을 고려한 평가 지표 개발과 같은 피해를 줄이는 전략을 연구했다. 구글을 떠난 후 그녀는 마이크로소프트에 합류하여 윤리 연구를 계속하고 AI 시스템을 더 공평하게 만드는 프로젝트에 기여했다.
허깅 페이스에서 윤리적 AI 공동 창립
2021년, 미첼은 머신러닝을 위한 오픈소스 도구와 라이브러리를 제공하는 회사인 허깅 페이스에서 윤리적 AI 팀을 공동 창립했다. 허깅 페이스에서 그녀는 사용자가 모델의 편향과 유해성을 감사할 수 있는 도구 생성을 포함하여 회사의 제품 개발에 윤리를 통합하는 이니셔티브를 주도했다. 그녀의 팀은 또한 AI 훈련에 사용되는 데이터셋의 투명성을 개선하고, 커뮤니티가 데이터의 출처와 잠재적 편향을 문서화하도록 장려하는 작업을 수행했다.
그녀의 지도 아래 윤리적 AI 팀은 AI 훈련의 환경 영향과 AI 개발에 다양한 관점을 포함하는 것의 중요성과 같은 주제에 대한 연구를 발표했다. 미첼은 또한 컴퓨터 과학자, 사회 과학자, 정책 입안자를 모아 AI가 제기하는 복잡한 과제를 해결하는 학제 간 협력을 옹호해 왔다. 허깅 페이스에서의 그녀의 역할은 그녀를 오픈소스 AI 커뮤니티에서 저명한 인물로 만들었으며, 그녀는 윤리가 AI 연구의 핵심 구성 요소여야 하며 사후 고려 사항이 아니어야 한다는 생각을 지지했다.
옹호 및 대중 참여
기술 작업 외에도 미첼은 AI 윤리에 대한 적극적인 대중 논평가로 활동해 왔다. 그녀는 정부 기관에 증언하고 국제 회의에서 AI 산업의 규제와 책임성의 필요성에 대해 연설했다. 그녀는 일부 기업이 안전보다 속도와 이익을 우선시하는 경향을 비판하며, 그러한 관행이 소외된 커뮤니티에 해로운 결과를 초래할 수 있다고 주장했다.
미첼은 또한 AI 인력의 다양성 문제를 다루며, 다양한 배경이 부족한 팀은 잠재적 피해를 간과할 가능성이 더 높다고 지적했다. 그녀는 대학과 기업이 보복에 대한 두려움 없이 윤리적 우려를 제기할 수 있는 환경을 조성하도록 장려했다. 그녀의 옹호는 새로운 세대의 연구자들이 작업의 사회적 차원을 고려하도록 영감을 주었으며, AI 내에서 인정받는 분야로서 윤리의 성장에 기여했다.
인정 및 유산
미첼의 기여는 학계 및 산업 조직으로부터 상과 영예로 인정받았다. 그녀는 여러 출판물에서 AI에서 가장 영향력 있는 인물 중 한 명으로 선정되었으며, 그녀의 논문은 윤리 문헌에서 널리 인용된다. 모델 카드와 편향 완화에 대한 그녀의 작업은 AI 실무자에게 표준 참고 자료가 되었으며, 그녀는 책임 있는 AI에 관한 논의를 계속 형성하고 있다.
2020년대 중반 현재, 미첼은 창의적 산업에서 생성형 AI 도구의 배포와 감시에서의 AI 사용과 같은 AI의 새로운 윤리적 문제를 다루는 프로젝트에서 활발한 연구자이자 옹호자로 활동하고 있다. 그녀의 유산은 기술이 인류에게 공평하게 봉사해야 한다는 그녀의 주장으로 정의되며, 이 원칙은 학술 연구와 산업 관행 모두에 영향을 미쳤다. 그녀는 AI를 더 투명하고 공정하며 책임 있게 만드는 운동의 핵심 인물로 간주된다.