AI伦理是研究构建和部署人工智能系统所引发的道德、社会及政治影响的跨学科领域。它与人工智能安全有所重叠，但范围更广，后者往往侧重于防止灾难性或生存性失败；而AI伦理则更关注近期危害，如歧视、隐私丧失、问责制削弱、劳动力转移，以及控制前沿系统的少数企业和政府手中权力的集中。该领域的从业者包括哲学家、计算机科学家、律师和社会学家，其关切日益通过欧盟人工智能法案等框架影响企业政策和政府监管。
核心关切
偏见与公平是AI伦理中研究最多的主题之一：由于机器学习系统从训练数据中学习统计模式，它们可能复制并放大数据中存在的历史歧视，这一效应已在招聘工具、信用评分和人脸识别中得到记录，并在算法偏见一文中详细讨论。透明度与问责制关注受AI决策影响的人能否理解或质疑该决策，而大型神经网络模型的黑箱特性加剧了这一挑战，由此催生了可解释人工智能和可解释性等独立领域。隐私问题既源于构建模型所抓取的海量训练数据，也源于AI驱动的监控能力。其他反复出现的主题包括训练和运行大型模型的环境成本、标注数据和审核内容的人工标注员的劳动条件，以及生成工具通过深度伪造媒体和低质量批量生产内容（有时被称为AI垃圾）加速虚假信息传播的风险。
随机鹦鹉之争
该领域的一个关键时刻是2021年发表的论文《论随机鹦鹉的危险》，由蒂姆尼特·格布鲁、艾米丽·本德及同事合著，该文认为不断增大的语言模型可能在规模上编码偏见，产生巨大的环境和经济成本，并可能造成一种虚假的理解印象，而实际上并不存在理解，这一批评后来被概括为随机鹦鹉一词。该论文的发表恰逢格布鲁因内部对论文审查的争议而离开谷歌，这成为企业AI实验室与内部伦理研究人员之间紧张关系的广泛讨论案例。
制度回应
面对日益增长的公众关切，包括OpenAI和Anthropic在内的大多数主要AI开发商现在都发布某种形式的使用政策、安全或负责任AI框架，以及记录已知局限性的模型卡。Anthropic尤其将其大量研究计划（包括宪法AI）围绕将伦理原则直接嵌入模型训练来构建。各国政府也已着手将AI伦理原则纳入法律或指导文件，包括OECD AI原则、美国《AI权利法案蓝图》，以及欧盟AI法案下的约束性规则；更广泛的监管环境在AI治理一文中有所涵盖。
批评与争论
AI伦理作为一个领域本身也面临来自多方面的批评。一些技术专家认为，伦理审查会减缓有益部署，或沦为表演性合规而非实质性变革。另一些人（包括部分AI安全研究者）认为，近期伦理框架会分散对更重大长期风险的关注；相反，以伦理为重心的研究者则主张，生存风险框架（见AI生存风险一文）会分散对已记录的现实危害的关注和资金。截至2020年代中期，关于哪类关切应指导AI治理政策的争论仍然活跃且基本未决。