Kristian Lum은 인공지능의 사회적 영향을 조사하는 연구 센터인 Digital Life Initiative의 전무이사이다. 그녀의 작업은 머신러닝과 데이터 과학의 윤리적 차원에 초점을 맞추며, 특히 알고리즘 시스템의 공정성, 책임성, 투명성에 주목한다. Lum의 연구는 인공지능 기술이 소외된 지역사회와 공공 정책에 어떻게 영향을 미치는지에 대한 논의에 영향을 끼쳤다.
Digital Life Initiative를 이끌기 전에 Lum은 학계와 산업 연구 환경에서 다양한 직책을 맡았다. 그녀는 예측 알고리즘의 공정성을 평가하는 통계적 방법 개발에 기여했으며, 주로 형사 사법과 공공 보건 분야에 초점을 두었다. 그녀의 논문은 고위험 의사 결정에서 딥러닝모델을 사용할 때의 위험을 다루며, AI 시스템의 엄격한 감사를 요구해 왔다.
조기 경력과 교육
Lum은 통계학 박사 학위를 마치며 베이지안 방법과 인과적 추론에 대한 전문성을 확립했다. 그녀의 초기 연구는 설문 데이터 분석과 인권 탈지 측정을 포함한 사회 과학 질문에 이러한 기법을 적용했다. 이 통계학 기반은 이후 신경망 기반 기술의 사회적 영향을 연구하기 위한 전환에 영향력을 주었다.
박사 학위 후 Lum은 여러 기술 조직의 연구 과학자로 일했으며, 주요 인터넷 기업의 윤리 팀에 근무한 기간도 포함된다. 이 역할에서 그녀는 대규모 언어 모델시스템이 훈련 데이터에 존재하는 편향을 퍼뜨릴 가능성을 조사했다. 그녀의 경험적 연구는 겉보기에 중립적인 알고리즘 도구가 특성 집단 간에 상이한 결과를 초래할 수 있음을 보여주었으며, 이 결과를 정책 결정권자들 사이에서 주목받았다.
연구 기여
Lum의 연구의 중심 주제는 알고리즘 공정성이라는 개념이다. 그녀는 통계적 일치와 개별 정의를 모두 고려하는 공정성의 공식 정의를 개발했으며, 이러한 기준이 실제로 충돌하는 경우가 많을 보여주었다. 그녀의 예측 경찰 시스템에 대한 연구는 예를 들어, 범죄 예측 정확도를 최적화하는 것이 특정 지역에서 과도한 경찰 활동의 과거 패턴을 강화할 수 있음을 밝혀냈다.
또한 Lum은 트랜스포머 아키텍처가 인과 관계를 파악하는 데 한계를 검토한다. 그녀는 이 모델들이 패턴 인식에 뛰어난 능력을 갖지만, 생성 대련의 의사 결정에 필수적인 반사적 추론에는 본질적으로 부적합하다고 주장한다. 그녀의 비판은 법적 및 의료적맥락에서 생성 AI 도구를 배치하는 것에 대한 논쟁에서 인용되고 있다.
기술 논문 외에도 Lum은 보다 넓은 독자를 위해 다양한 글을 작성했다. 그녀는 주요 언론사에 전문 기고를 기고했으며, AI 규제 필요성에 대해 정부 기관 앞에서 증언했다. 그녀의 증언은 종종 독립적 감사의 중요성과 AI 시스템 설계에 영향받는 커뮤니티의 참여를 강조한다.
Digital Life Initiative에서의 리더십
전무 으로서 Lum은 연구자, 변호사, 컴퓨터 과학자로 구성된 멀티디시플린 팀을 감독한다. 이 이니셔티브는 인권과 기술의 교차로를 탐구하는 프로젝트를자금 지원하며, 감시, 노동 자동화, 오정보와 같은 연구를 포함한다. 그녀의 리더십하에 이 이니셔티브는 시민들이 지역 알고리즘의공정성을 평가할 수 있는 공공 지향 도구를 출시했다.
Lum(으)는 옥스포드 대학의 AI 윤리 연구소와 BAIR (Berkeley AI Research) 그룹과 같은 국제 조직과 협력해왔다. 이러한 국제 협력은 인공지능의 지구적 관리를 담당하는 공동 보고서를 생성했다. 그녀는 [[stanford-ai-lab] 및 MIT CSAIL가 조직한 회의를 포함하여 직업 전반에 걸쳐 자주 연설하며, 엔지니어들이 자녀 작업의 사회적 맥락을 고려하도록 도전한다.
주장과 공개 참여
학계를 넘어서 Lum은 책임 있는 AI 발명을 위한 확고한 주장자이다. 그녀는 대규모 언어 모델 시스템의 훈련에 대한 투명성을 높일 추구하며, 기업들이 데이터 출처와 평가방법을 공개하라고 주장했다. 그녀의 입장은 산업 리더들과 충돌하는 경우가 있지만, 대중의 신뢰는 개방성에 달려 있음을 유지한다.
Lum는 또한 교육 이니셔티브를 진행하며, 대학원 수준의 데이터 윤리 관련 대학을 가르친다. 그녀는 AI 정책과 연구를 발전시킨 여러 학생들을 멘토링했다. 그녀의 교육 자료는 알고리즘 편향에 대한 기본 연구를 포함하며, 다른 대학들에서도 사용되고 있다.
주요 논문 및 인정
Lum는 통계학, 컴퓨터 과학, 법학 분야에서 40편 이상의 동료 검색 논문을 저술했다. 그녀의 예측 경찰에서의 공정성 불가능성에 대한 논문은 주요 회의에서 최우수 논문 상을 수상했다. 그녀는 국가 과학 재단과 기관 기관으로부터 특히 그림 간의 감사에 대한 지원을 받았다.
2023년에 Lum는 한 주요 산업 지에 의해 AI 윤리 분야에서 영향력 있는 상위 100인 중 하나로 선정되었다. 그녀는 디지털 권 전문 비영리 단체이 소속되어 있다. 그녀의 작업은 인간의 존엄성을 존경하고 사회정의를 촉진하는 방향으로 인공지능을 발전시키는 방법에 대한 세대를 계속 형성하고 있다.
향후 방향
앞으로 Lum는 Digital Life Initiative의 초점을 AI의 환경 비용과 자동화의 글로벌 노동 시장에 미치는 영향으로 확대할 계획이다. 그녀는 현재 딥러닝 모델의학 교육 훈련에 대한 탄소 발자국을 연구하는 프로젝트를 주도하며, 산업 표준화된 지속가능성 기준을 만드는 것을 목표로 한다. 또한 그녀는 AI 시스템의 장기 사회적 가치 측정을 위한 새로운 기반 지표를 개발하려 하며, 단순한 정확도 벤치마크 차원에서 벗어나길 원한다.
Lum는 기술 분야에서 중요한 목소리로 남아 있으며, AI 기술의 무계획적인 확장에 대한 성압을 요구한다. 그녀는 기술의 혁신이 윤리 원칙과 민주적 기반에 의해 주도되도록 비전을 두고 있으며, AI의 이점이 사회 전체에 공공 평등하게 분산되도록 보장하고 있다.