罗曼·扬波利斯基（Roman Yampolskiy）是肯塔基州路易斯维尔大学的计算机科学家和教授，他在该校担任网络安全实验室主任。他因对人工智能安全领域的贡献而广受认可，重点关注先进AI系统的潜在风险和伦理影响。他的工作涵盖网络安全、行为生物识别以及开发用于验证AI行为的正式方法。
扬波利斯基的研究对塑造关于AI长期安全性的讨论具有重要影响，特别是关于控制问题，即如何确保超级智能机器与人类价值观保持一致。他撰写了大量论文和书籍，包括《人工智能安全与安保》，并经常在学术会议和公共论坛上就采取主动安全措施的紧迫性发表演讲。
早年生活与教育
扬波利斯基出生于苏联，后移居美国。他于2003年在路易斯维尔大学获得计算机科学学士学位，并于2004年在该校获得计算机科学硕士学位。他于2008年在路易斯维尔大学完成计算机科学与工程博士学位，论文聚焦于行为生物识别与安全。
在研究生学习期间，扬波利斯基对网络安全与AI的交汇领域产生了早期兴趣，这后来成为他学术生涯的基石。他还曾作为研究助理参与涉及模式识别和异常检测的项目。
学术生涯
获得博士学位后，扬波利斯基于2008年加入路易斯维尔大学任教，担任助理教授。他于2014年晋升为副教授，并于2020年晋升为正教授。除教学职责外，他还创立并领导网络安全实验室，在该实验室指导研究生并开展AI安全、对抗性机器学习和安全软件设计方面的研究。
扬波利斯基已发表超过200篇同行评审论文，并曾担任众多国际AI与安全会议的程序委员会委员。他还是《人工智能研究杂志》和《IEEE信息取证与安全汇刊》等期刊的常任审稿人。
AI安全研究
扬波利斯基以研究高级AI带来的生存风险而闻名。他认为，超级智能系统的发展构成了一个根本性的控制问题，因为完全约束超越人类智能的AI可能是不可能的。在他2015年的论文《奇点与机器伦理》中，他提出应将AI安全视为一个正式的数学问题，类似于软件验证。
他还探讨了“AI装箱”的概念，即通过将AI系统限制在受限环境中以防止其造成伤害。然而，扬波利斯基对此类遏制措施的可行性表示怀疑，认为足够智能的系统可能找到逃脱的方法。他2018年的著作《人工智能安全与安保》汇集了领先研究者的贡献，并为未来的安全研究勾勒了路线图。
网络安全与行为生物识别
除AI安全外，扬波利斯基还在网络安全领域做出了重要贡献，特别是在行为生物识别方面。他的早期工作涉及利用击键动态和鼠标移动模式来验证用户身份，这一领域在欺诈检测和访问控制中具有应用价值。他还研究了针对机器学习模型的对抗性攻击，展示了微小扰动如何欺骗神经网络做出错误预测。
他的网络安全研究得到了国家科学基金会和国防部的资助，并与行业伙伴合作开发安全认证系统。
公众参与与影响
扬波利斯基是一位活跃的公共知识分子，经常出现在媒体和播客中讨论AI风险。他曾向政府机构作证，并参与了由OpenAI和Google DeepMind安全团队等组织举办的研讨会。他的观点有时颇具争议，因为他认为除非很快实施重大安全措施，否则AI灾难的概率很高。
他维护着一个广受欢迎的博客和YouTube频道，向普通受众解释复杂的AI概念。他还组织了关于AI安全的学术研讨会，汇集了来自MIT CSAIL和斯坦福AI实验室等机构的研究人员。
主要作品
- 《人工智能安全与安保》（2018）
- 《奇点与机器伦理》（2015）
- 《论AI对齐的不可能性》（2020）
- 《深度学习中的对抗性示例》（2019）
奖项与认可
扬波利斯基的研究获得了多项奖项，包括2019年路易斯维尔大学杰出教师奖。他被多个学术排名列为顶尖AI安全研究者之一，并受邀在牛津大学和卡内基梅隆大学发表演讲。
个人生活
扬波利斯基与家人居住在肯塔基州路易斯维尔。他是一位热衷的国际象棋棋手，并参加过当地锦标赛。他还对心灵哲学感兴趣，并经常将哲学问题融入他的AI研究中。
参考文献
- Yampolskiy, R. (2018). Artificial Intelligence Safety and Security. CRC Press.
- Yampolskiy, R. (2015). "The Singularity and Machine Ethics." Journal of Consciousness Studies.
- 路易斯维尔大学教师简介。