以人为中心的人工智能（HCAI）是一种设计哲学和研究方向，在人工智能领域内，将人类的需求、能力和价值观置于系统开发的核心位置。HCAI并非仅关注技术性能或自动化，而是力求创建可理解、可控且对个人和社会有益的AI系统。该方法整合了人机交互、认知科学和伦理学等领域的洞见，以确保AI技术增强人类能力并支持人类决策，而非取代或削弱它们。
这一概念在2010年代随着AI系统变得更加强大和普及而受到重视，引发了关于偏见、透明度和问责制的担忧。研究人员和实践者主张，AI开发应以人为中心的原则为指导，包括公平性、可解释性和用户自主权。这种观点与纯粹技术驱动的方法形成对比，后者优先考虑效率或准确性，而牺牲人类影响。
核心原则
以人为中心的人工智能建立在几个基础原则之上。首先，透明度要求AI系统对其决策和行为提供清晰解释，使用户能够理解并信任它们。其次，公平性涉及设计避免歧视性结果并公平对待所有用户的算法。第三，用户控制强调人类应保留覆盖或干预AI决策的能力，确保系统仍是工具而非自主权威。此外，隐私和安全性至关重要，因为HCAI系统必须保护用户数据并抵御滥用。
这些原则通常通过可解释AI（XAI）等技术来实现，XAI旨在使模型输出可解释，以及人机回环系统，在训练和部署期间纳入人类反馈。例如，从人类反馈中强化学习（RLHF）被用于大型语言模型中，以使输出与人类偏好对齐。
历史背景
对以人为中心的计算方法兴趣早于现代AI。在1980年代，施乐帕洛阿尔托研究中心和麻省理工学院计算机科学与人工智能实验室等机构的研究人员探索了软件中的用户中心设计，为后来的HCAI工作奠定了基础。“以人为中心的人工智能”这一术语在2010年代末期被更广泛使用，特别是通过斯坦福大学和卡内基梅隆大学的倡议。2019年，斯坦福大学成立了斯坦福以人为中心人工智能研究所（HAI），由李飞飞和约翰·埃切门迪共同指导，以促进优先考虑人类影响的研究。
该领域的关键人物包括迈克尔·乔丹，加州大学伯克利分校教授，倡导机器学习中以人为中心的视角，以及梅兰妮·米切尔，复杂性科学家，撰写了关于AI局限性和社会影响的作品。他们的工作，以及阿尼玛·阿南德库马尔和亚历山大·马德里等学者的贡献，帮助塑造了负责任AI发展的讨论。
应用与实例
以人为中心的人工智能原则应用于多个领域。在医疗保健中，直觉外科的达芬奇机器人等系统以增强精度辅助外科医生，同时保持人类医生的控制。在自动驾驶中，Waymo和特斯拉等公司设计其系统时包含允许人类干预的安全功能，反映了HCAI价值观。在客户服务中，OpenAI的ChatGPT和Anthropic的Claude通过对齐技术开发，以确保有用且无害的响应，并纳入用户反馈循环。
在工作场所，HCAI工具旨在增强人类能力而非取代工作。例如，微软的Azure AI服务包括可访问性和公平性功能，而谷歌云提供可解释机器学习工具。这些应用展示了HCAI如何在现实产品中实施。
挑战与批评
尽管目标崇高，以人为中心的人工智能面临若干挑战。一个主要问题是透明度与性能之间的张力：深度神经网络等复杂模型通常实现高准确性但难以解释。研究人员正在开发诸如层归一化和注意力机制等技术以提高可解释性，但权衡仍然存在。另一个挑战是定义和衡量公平性，因为不同利益相关者可能对公平待遇有冲突的看法。
批评者认为，HCAI有时被用作营销流行语而无实质性变化。例如，一些公司可能声称以人为中心的设计，同时仍部署影响用户不利的不透明算法。此外，关于HCAI是否能真正解决训练数据中嵌入的系统性偏见存在争议，这些偏见往往反映历史不平等。蒂姆尼特·格布鲁和凯特·克劳福德等学者强调了这些担忧，尽管他们并不总是直接与HCAI标签相关联。
未来方向
以人为中心的人工智能的未来可能涉及技术专家、社会科学家和最终用户之间更紧密的合作。新兴领域包括参与式设计，即受影响的社区参与AI开发，以及监督部署的AI伦理委员会。关于课程学习和数据增强的研究也可能有助于更健壮和公平的模型。随着AI更深入地融入日常生活，HCAI的原则对于确保技术服务于人类更广泛的目标至关重要。
在学术界，伯克利AI研究实验室和斯坦福AI实验室等专门中心正在推进HCAI研究。包括苹果、三星电子和英特尔在内的行业努力也在将以人为中心的设计融入其产品。这些利益相关者之间的持续对话将塑造AI在未来几年的发展。