摩根·罗斯是一位AI政策研究员，其工作聚焦于算法系统中的公平性与透明度。罗斯研究机器学习模型如何产生偏见性结果，以及政策框架如何缓解这些风险。其研究处于技术性人工智能开发与治理的交汇点，常与学术机构和行业实验室合作。
罗斯曾参与多篇同行评审出版物和政策白皮书，涉及算法审计、可解释性标准以及生成式人工智能的社会影响等主题。其工作在高风险领域（如招聘、医疗和刑事司法）的负责任AI部署讨论中经常被引用。
早期职业与教育
罗斯完成了计算机科学研究生学业，专注于伦理AI，并于2018年从卡内基梅隆大学获得博士学位。在博士研究期间，罗斯开发了检测分类模型中差异性影响的方法，这一研究方向后来为国家级政策建议提供了依据。在进入学术界之前，罗斯于2011年至2013年在英特尔担任软件工程师，期间首次接触到自动化决策系统中偏见问题的实际挑战。
主要研究贡献
罗斯2020年的论文《黑盒模型的透明度指标》引入了一个新颖框架，用于量化神经网络系统的可解释性。该工作已被多个监管机构采纳，作为审计商业AI产品的基线。2022年，罗斯合著了一项关于大语言模型输出公平性的综合研究，分析了超过10,000篇生成文本，并识别出系统性的性别和种族偏见。该研究在塑造OpenAI和Anthropic于2023年采纳的自愿性行业指南方面发挥了关键作用。
罗斯还在2021年至2023年间领导了一个与斯坦福AI实验室合作的多年项目，开发用于事后可解释性的开源工具。这些工具现已被超过200个组织使用，使从业者能够在无需访问专有权重的情况下可视化Transformer模型中的特征归因。
政策与咨询工作
自2019年以来，罗斯担任伯克利AI研究小组的政策顾问，为州级算法问责立法做出贡献。2021年，罗斯在美国国会小组委员会作证，强调联邦采购中标准化公平基准的必要性。其建议被纳入2022年《AI权利法案》框架，该框架将罗斯的透明度指标引用为最佳实践。
罗斯还与多个国际机构合作，包括2023年与欧盟AI办公室就《AI法案》实施进行的磋商。其意见帮助塑造了高风险系统中可解释性的要求，尤其是在金融和医疗领域。
公众参与与教学
罗斯是公平性、问责制与透明度会议（FAccT）等会议的常客演讲者，曾于2019年、2021年和2023年发表演讲。他们还于2022年作为客座讲师在牛津大学教授AI伦理研究生课程。罗斯维护着一个活跃的博客，将技术研究转化为易于理解的政策简报，每月读者超过50,000人。
2024年，罗斯发布了一个算法审计结果的公共数据集，涵盖150个商业AI系统。该资源由亚马逊网络服务托管，使独立研究人员能够验证供应商关于公平性和透明度的声明。
认可与未来方向
罗斯获得了负责任技术研究所颁发的2023年AI政策影响奖，以表彰其在连接研究与监管方面的贡献。他们还在2024年被一家领先科技出版物评为“百大AI影响力人物”之一。
当前工作包括与谷歌DeepMind合作开发适应变化数据分布的动态公平性指标。罗斯还在探索如何将强化学习与人类反馈对齐透明度要求，该项目由国家科学基金会资助至2026年。
罗斯继续倡导对高风险AI系统进行强制性第三方审计，认为自愿性措施不足。其持续研究旨在创建标准化认证流程，既在技术上严谨，又对大小组织均可实际实施。
{"infobox": {"born": null, "died": null, "nationality": "美国", "known_for": ["机器学习公平性指标", "大语言模型透明度框架"], "affiliation": "卡内基梅隆大学；伯克利AI研究", "awards": ["2023年AI政策影响奖"]}, "categories": ["ai-policy", "algorithmic-fairness", "machine-learning", "technology-ethics"]}