译自英文

艾丽丝·向是索尼集团公司的律师、统计学家及人工智能治理全球主管,以其在AI伦理、公平性和道德数据策展方面的工作而闻名。她被《自然》杂志评为2026年值得关注的十位科学家之一。

艾丽丝·向是一位律师、统计学家,现任索尼集团公司全球AI治理负责人兼首席研究科学家。她的工作聚焦于法律、统计学与人工智能的交汇点,尤其关注AI系统中的公平性、透明度和问责制问题。2026年,《自然》杂志将她列为值得关注的十位科学家之一,以表彰她在为AI数据制定伦理基准方面的贡献。她还因主导创建公平以人为本图像基准(FHIBE)而闻名,该数据集包含超过10,000张图像,在收集过程中明确关注多样性、偏见缓解和同意问题。

向的职业生涯跨越学术界、工业界和非营利研究领域。在加入索尼之前,她曾在人工智能伙伴关系组织工作,负责领导公平性、透明度和问责制研究。她的学术训练包括哈佛大学、牛津大学和耶鲁法学院的学位,这赋予她多学科视角,并将其应用于新兴技术的治理。她撰写了多篇有影响力的论文和评论文章,主题涵盖肤色偏见、伦理数据策展以及算法公平性的法律和技术挑战。

教育与早期职业生涯

向在耶鲁法学院获得法学博士,在牛津大学获得发展经济学硕士学位,并在哈佛大学获得经济学学士学位和统计学硕士学位。这种法律与量化训练的结合是她处理AI伦理问题的核心方法,使她能够在技术模型开发与监管框架之间架起桥梁。

职业生涯早期,向曾在人工智能伙伴关系组织工作,这是一个由包括OpenAIGoogle DeepMindAppleAmazon Web Services在内的主要科技公司创立的非营利组织。在人工智能伙伴关系组织,她担任公平性、透明度和问责制研究负责人,领导项目研究如何使AI系统更加公平,以及如何向用户解释其决策。她还曾在清华大学担任访问学者,进一步拓宽了她在AI治理方面的国际视野。

在索尼的领导工作

向加入索尼集团公司,担任全球AI治理负责人兼首席研究科学家。在这一角色中,她负责监督公司确保其AI产品和研究符合伦理原则的战略。索尼的AI计划涵盖从消费电子到娱乐和游戏的各种应用,向的工作涉及制定可应用于这些不同领域的治理框架。

在她的领导下,索尼强调了伦理数据收集和策展的重要性。向认为,AI系统的质量和公平性在很大程度上取决于用于训练它们的数据,她倡导行业标准优先考虑同意、多样性和知识产权保护。她在索尼的工作使该公司成为负责任AI发展的领导者,特别是在生成式AI大语言模型的背景下。

公平以人为本图像基准(FHIBE)

向最重要的贡献之一是开发了公平以人为本图像基准(FHIBE),这是一个包含超过10,000张人类图像的数据集。该数据集的创建明确目标是反映多样性、缓解偏见、保护知识产权,并包括被拍摄个人的同意。这与许多现有图像数据集不同,后者通常未经明确许可从互联网抓取,并可能低估某些人口群体。

FHIBE于2025年11月发表在《自然》杂志的一篇论文中,与杰龙·T·A·安德鲁斯、丽贝卡·L·伯克等人合著。该数据集旨在作为评估AI模型在不同人口群体中表现的基准,帮助研究人员识别和纠正机器学习系统中的偏见。2026年,FHIBE被《快公司》评为“改变世界的想法”之一,突显了其重塑AI训练数据来源和使用方式的潜力。

公平性与透明度研究

向在确保AI公平性挑战方面发表了大量文章。她的工作经常涉及偏见缓解的技术方法与AI系统运作的法律和社会背景之间的张力。在她2020年发表于《田纳西法律评论》的论文“调和法律与技术方法解决算法偏见”中,她探讨了法律上的歧视标准如何为设计更公平的算法提供信息,反之亦然。

另一个显著贡献是她2021年的论文“无法衡量,就无法理解:追求公平中人口数据采购的挑战”,与麦凯恩·安德鲁斯、埃琳娜·斯皮策和杰弗里·布朗合著。该论文考察了收集审计AI系统偏见所需人口数据的实际困难,包括隐私问题和错误分类风险。这项工作在塑造关于如何在AI中平衡公平性和隐私的辩论方面具有影响力。

向还研究了不确定性作为一种透明度形式的概念。在2021年发表于AAAI/ACM AI、伦理与社会会议的一篇论文中,她和同事认为AI系统应向用户传达其不确定性,以便做出更明智的决策。这一观点挑战了AI输出应始终以高置信度呈现的常见假设。

语音生成器的伦理危害

2024年,向与维布克(图桑)·胡蒂里和奥雷斯蒂斯·帕帕基里亚科普洛斯合著了一篇题为“不是我的声音!语音生成器伦理和安全危害的分类”的论文。该论文在计算机协会组织的一次会议上发表,提供了一个全面框架,用于分类AI生成语音可能产生的危害。这些危害包括身份盗窃、冒充和错误信息传播,以及诸如对音频证据信任侵蚀等不太明显的危害。

该分类旨在帮助开发者和政策制定者预见并缓解与语音生成技术相关的风险,这些技术随着深度学习神经网络的出现而变得越来越复杂。向在这一领域的工作反映了她对AI社会影响的更广泛关注,特别是随着生成模型变得越来越能够产生逼真内容。

认可与奖项

向的贡献得到了广泛认可。2021年,她被列入AI伦理领域100位杰出女性名单。2025年,她因论文“镜子,镜子,墙上的镜子,谁是最公平的?”获得未来隐私论坛的“政策制定者隐私论文奖”,该论文于2024年发表在《代达罗斯》期刊上。该论文探讨了计算机视觉系统如何误视个人,特别是来自边缘化群体的个人,并主张对公平性进行更细致的理解,同时考虑隐私和可见性。

2026年,她被《AI杂志》评为AI领域百强女性之一,《自然》杂志也将她列入值得关注的十位科学家名单。这些荣誉反映了她在AI伦理领域日益增长的影响力,她被视为技术研究与政策制定之间的桥梁。

精选作品与出版物

向撰写或合著了多篇有影响力的论文。其中被引用最多的作品之一是2020年发表的“部署中的可解释机器学习”,该论文考察了在现实世界系统中实施可解释性技术的实际挑战。该论文与乌芒·巴特等人合著,讨论了学术可解释性研究与从业者需求之间的差距。

她的出版物还包括关于AI法律维度的作品,如2022年发表于《哈佛法律与技术杂志》的“被‘看见’与‘误视’:计算机视觉中隐私与公平性的张力”。该论文探讨了隐私保护如何与确保公平性的努力相冲突,特别是在监控和面部识别技术中。

除了学术论文,向还为《财富》和《时代》杂志撰写了评论文章,向更广泛的受众传达了她关于肤色偏见和伦理数据策展的研究。她将复杂技术问题转化为通俗语言的能力,使她成为AI伦理领域备受追捧的评论员。

影响与遗产

向的工作是使AI对其影响的人群更加负责的更广泛运动的一部分。通过关注AI系统的整个生命周期,,从数据收集到部署,,她帮助将对话从纯粹的技术性能转向社会责任问题。她在索尼的领导地位,加上她的学术贡献,使她成为持续努力开发既创新又伦理的AI的关键人物。

随着AI继续渗透到社会的各个方面,向为伦理数据策展和公平性评估开发的框架可能会变得越来越重要。她特别强调数据收集中的同意和多样性,为公司如何构建尊重个人权利同时实现高性能的AI系统提供了模式。通过她的研究、倡导和领导,向正在帮助定义21世纪负责任的AI是什么样子。

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:ai-ethics·computer-science·law·statistics
本页最后编辑于 2026年9月9日 编辑者 AI Wiki Bot · 历史