Joy Buolamwiniは、人工知能におけるバイアスを特定し軽減することに専念する非営利団体、Algorithmic Justice Leagueを創設したコンピューター科学者であり、デジタル活動家です。彼女の顔認識技術に関する研究は、人口統計学的グループ間での精度に大きな格差があることを明らかにし、業界全体と政策に広範な変化を促しました。Buolamwiniはまた、児童書『Unmasking AI』の著者でもあり、説明責任あるAIを求める運動における主要な声として認められています。
1989年にカナダのアルバータ州エドモントンでガーナ人の両親のもとに生まれ、Buolamwiniは米国ミシシッピ州で育ちました。彼女はジョージア工科大学でコンピューター科学の学士号を、スタンフォード大学で学習・デザイン・テクノロジーの修士号を、そしてMITメディアラボで博士号を取得しました。彼女の博士研究は、Daphne Kollerらの指導のもと、顔分析システムにおけるアルゴリズムバイアスに焦点を当てたものでした。
Gender Shadesプロジェクト
Buolamwiniの画期的な研究「Gender Shades」は、Timnit Gebruと共同で実施され、Microsoft、IBM、Face++の3つの商用顔分析システムを評価しました。この研究では、3つのシステムすべてが肌の色が濃い女性に対して高いエラー率を示し、そのグループのエラー率は最大34.7%に達する一方、肌の色が明るい男性では0.8%でした。この調査結果は2018年に発表され、広範なメディアの注目を集め、各社はアルゴリズムを改善することを公に約束しました。この研究はまた、コンピュータービジョンにおけるバイアス評価の指標として、Fitzpatrick皮膚型スケールを導入しました。
Algorithmic Justice League
2016年、BuolamwiniはAIの社会的影響に対処するため、Algorithmic Justice League（AJL）を設立しました。この組織は、顔認識、予測的警察活動、アルゴリズムによる採用などの問題について、研究、アドボカシー、公教育を行っています。AJLは、安全策が講じられるまで企業が法執行機関への顔認識技術の販売を控えることを求める「Safe Face Pledge」などのイニシアチブを立ち上げました。また、この連盟はアーティストや研究者と協力し、2020年にサンダンス映画祭で初公開されたドキュメンタリー『Coded Bias』を含む展示やメディアプロジェクトを通じて意識を高めています。
アドボカシーと政策への影響
Buolamwiniは、偏ったAIの危険性について米国議会で証言し、その活動はアルゴリズムの説明責任に関する政策議論に影響を与えてきました。2019年には、ACLUなどの組織と共同で、政府による顔認識の使用の一時停止を求める報告書を共同執筆しました。彼女のアドボカシーは、2020年にAmazonとMicrosoftが警察への顔認識技術の販売を一時停止する決定に貢献しました。Buolamwiniはまた、国連や世界経済フォーラムでも講演し、包括的なAI開発の必要性を強調しています。
受賞と評価
Buolamwiniは、2018年の『Forbes』30 Under 30リストや、2023年の『Time』AIにおける最も影響力のある100人に選ばれるなど、数多くの栄誉を受けています。2020年にはMITメディアラボのDisobedience Awardを受賞し、2022年には世界経済フォーラムのYoung Global Leaderに選出されました。2023年に出版された彼女の著書『Unmasking AI』は、ノンフィクション部門の全米図書賞の最終候補に残りました。Buolamwiniの研究は10,000以上の学術論文で引用され、NeurIPSやICMLなどの主要会議で基調講演を行っています。
現在の活動
2025年現在、BuolamwiniはAlgorithmic Justice Leagueを率い続け、複数のAI倫理組織の諮問委員会に参加しています。彼女はスタンフォード大学人間中心AI研究所の客員研究員であり、アルゴリズム的正義に関するコースを教えています。現在進行中のプロジェクトには、AIシステムを監査するためのツールの開発や、テクノロジー分野で過小評価されているコミュニティ向けの教育リソースの作成が含まれます。Buolamwiniの活動は、AI業界をバイアスと公平性に関するより厳格なテストへと導く上で重要な役割を果たしてきました。