人机交互（HAI）是一个跨学科领域，关注人类与人工智能系统之间交互的设计、理解和评估。它借鉴计算机科学、认知科学、人机交互和伦理学，旨在创建有效、安全且与人类价值观一致的界面和工作流程。该领域既涉及AI的技术机制，如机器学习模型，也涉及人们如何感知、信任和协作这些系统的社会和心理层面。
与传统软件交互不同，人机交互涉及能够学习、适应并自主决策的系统。这带来了独特的挑战，包括可解释性、透明度以及用户期望的管理。自2010年代以来，该学科迅速发展，得益于深度学习的进步以及生成式AI工具的普及，这些工具如今每天被数百万人使用。
历史基础
人机交互的根源可追溯至20世纪50年代和60年代人工智能的早期实验，当时阿兰·图灵等研究者提出了机器智能测试。人机交互领域于20世纪80年代出现，专注于可用性和以用户为中心的设计，但最初将AI视为外围组件。到20世纪90年代，如国际象棋计算机系统表明AI能在特定任务上超越人类，从而引发了对人类如何有效监督或协作这些系统的研究。
一个关键转折点发生在2010年代，随着基于神经网络的模型和大型语言模型的兴起。这些系统在庞大数据集上训练，展现出使交互更为对话式的自然语言能力。2017年推出的转换器架构（由Jakob Uszkoreit和Lukasz Kaiser等人撰写的论文《注意力机制即是全部》详细介绍）使模型能更有效地处理上下文，进而开发出如OpenAI、Anthropic和Google DeepMind等公司的助手。
核心原则与设计挑战
人机交互遵循几项原则，将其与传统界面设计区分开来。一项关键原则是透明度：用户应了解AI能做什么、如何做出决策及其何时不确定。这在医疗诊断或自动驾驶等高危应用中尤为重要，因为错误可能造成严重后果。另一项原则是可控性，即用户应在必要时能审核或改变AI的行为。
设计师面临“黑盒”问题等挑战，其中深度学习模型难以解释。诸如Model Pruning和Reinforcement Learning from AI Feedback (RLAIF)（AI基于AI反馈的强化学习）等技术旨在提高效率和校准，但未能完全解决可解释性问题。此外，用户常常过度信任或低估AI系统，导致误用或放弃。该领域的研究，包括Melanie Mitchell和Brian Christian等学者的工作，强调通过清晰沟通置信度和局限来调整用户信任界面的必要性。
应用与领域
人机交互渗透于各领域。在医疗保健中，Commure和Intuitive Surgical等系统的应用辅助临床医生分析医学图像或辅助机器人手术，要求精心设计以确保人类监督仍然核心。在交通领域，Waymo和Tesla开发自动允许驾驶车辆，其中交互不仅涉及驾驶者，还涉及行人和其他道路使用者，提出AI如何传达其意图的问题。
在职场中，Microsoft (AI)和Google Cloud等公司提供的AI工具辅助如邮件起草、数据分析和代码生成等任务。这些工具常依赖大型语言模型，需要对用户反馈和修正提供接口的开发。创意应用如OpenAI开发图像生成和音乐合成等，加上Sora（视频生成模型）扩展了人类-AI协作的界限。该领域还关注可访问性，确保AI系统可供残障人士使用；以及教育领域，通过定制学习平台个性化调适内容。
评估与指标
评估人机交互超越了诸如任务完成时间等传统可用性指标。研究者使用适当信任等措施，评估用户是否在适当场景中依赖AI，以及情境感知，衡量用户理解AI当前状态和推理过程的能力。标准化框架，如NIST对AI可用性的指南，为设计和测试交互式AI系统提供了检查清单。
实证研究通常涉及用户原型实验，对比不同界面设计或解释风格，例如，研究显示提供局部解释可比全局解释更能提升用户信任。然而，由于AI系统的非确定性和上下文差异行为，评估仍是挑战，需要更多纵向研究和真实部署数据。
未来方向与伦理考虑
人机交互的未来可能涉及更无缝和前瞻性的系统，如环境智能（如自动化办公设备）等，即能预测用户需求的系统。Multi-Head Attention和Cross-Attention等进展可能使模型能更好地跟踪长会话中的用户意图。这些发展引发了关于隐私、自主权和潜在诱导的伦理考虑。研究人员和政策制定者正在探索负责任的AI框架，包括人在回路的概念，即人类保留关键决策的最终权力。
另一个新兴领域是与具身AI的交互，例如Figure AI和Sanctuary AI公司的机器人，这需要文本以外更丰富的物理和社会线索。随着AI进一步融入日常生活，该领域需应对数字福祉问题，如预防过度依赖AI进行决策。学术界、产业界与监管机构之间的合作将至关重要，确保人机交互保持有益且符合社会价值观。
参见
参考文献
- Amershi, S., 等（2019）。人机交互指南。
- Shneiderman, B. (2020)。以人为中心的人工智能。
- NIST (2023）。人工智能系统可用性。