人工智能是计算机科学和哲学中的一个概念，指一种假设性或理想化的智能形式，超越人类认知能力，以深刻理解、伦理判断和自我意识为特征。它常与人工智能相对比，后者主要专注于特定任务的问题解决和模式识别。虽然人工智能系统，如大型语言模型和神经网络，能够处理海量数据并执行复杂计算，但人工智能意味着知识、价值观和长期后果评估的更高层次整合。
该术语在2020年代随着机器学习和深度学习的进展而受到关注，这些进展引发了对智能系统最终轨迹的疑问。研究人员和伦理学家争论人工智能是否可实现、必要，甚至可取，有些人视其为生成式AI的自然演进，另一些人则将其视为哲学理想而非技术目标。
与人工智能的区别
人工智能系统，包括基于Transformer架构的系统，擅长处理狭窄或广泛的任务，如语言翻译、图像识别和游戏对弈。这些系统依赖于从训练数据中学到的统计模式，通常使用监督学习和强化学习等技术。相比之下，人工智能将需要具备推理道德困境、权衡竞争价值观以及在无显式编程情况下适应新情境的能力。
例如，一个大型语言模型可以生成关于伦理的连贯文本，但它并不具备真正的道德理解。人工智能不仅意味着生成此类文本，还意味着在模糊情境中做出有原则的决策，类似于人类智慧，但可能在更大规模上实现。这一区别是MIT CSAIL和斯坦福AI实验室等机构持续讨论的核心，研究人员在那里探索当前AI范式的极限。
哲学与伦理基础
Melanie Mitchell和Joshua Tenenbaum等哲学家认为，真正的智能不仅仅是模式匹配，还需要因果推理、常识和建模世界的能力。人工智能进一步扩展了这一概念，纳入规范性维度，如公平性、透明性和问责性。这些品质常被视为在医疗、自动驾驶车辆和司法系统等高风险领域部署AI的先决条件。
人工智能的伦理框架借鉴了美德伦理、义务论和后果主义。例如，一个智慧的AI可能优先考虑长期社会福祉而非短期效率，这一考量在大多数当前的损失函数和优化目标中缺失。牛津大学和伯克利AI研究的研究人员已发表立场文件，建议人工智能可以减轻与AI对齐相关的风险，但他们警告说，操作性地定义智慧仍是一个开放问题。
技术挑战与方法
当前AI系统缺乏多项对人工智能至关重要的能力。这些包括用于效率的稳健模型剪枝，但更重要的是，执行课程学习以构建分层知识的能力，以及跨多种模态整合交叉注意力机制的能力。一些研究人员提出，像残差网络和U-Net这样的架构可以扩展以处理抽象推理，但尚无共识。
另一个挑战是对齐问题：确保AI的目标在其能力增强时与人类价值观保持一致。诸如RLHF（基于人类反馈的强化学习）和宪法AI等技术是早期尝试，但它们并不能保证智慧。OpenAI、Anthropic和Google DeepMind等公司设有专门的安全团队探索这些问题，但人工智能仍超出当前工程能力范围。
潜在应用与影响
如果实现，人工智能可能改变医学等领域，一个智慧系统可能平衡临床证据与患者偏好；气候科学，通过权衡经济和生态取舍；以及国际外交，通过提出考虑文化细微差别的冲突解决方案。Intuitive Surgical和Waymo等组织已在部署狭窄AI，但一个智慧的AI将以更大的自主性和责任运作。
然而，影响是双刃剑。一个智慧的AI可能挑战人类权威，或做出伦理上优越但社会不可接受的决策。这引发了对监管框架的呼吁，诺基亚贝尔实验室和施乐PARC等实体为负责任的创新公共讨论做出了贡献。该概念还与通用人工智能的研究相交，但智慧并不等同于通用智能。
未来方向
截至2025年，人工智能在任何基准中都不是可测量的指标，也没有已知系统接近它。然而，跨学科努力正在涌现，结合认知科学、心灵哲学和计算机科学的见解。卡内基梅隆大学和多伦多大学的学术项目开始提供关于AI伦理和智慧的课程，标志着教育优先级的转变。
一些研究人员倡导渐进式方法，建议可解释AI和可解释机器学习的逐步改进最终可能导致更智慧的系统。另一些人则认为，人工智能需要根本性的范式转变，超越主导当前AI的统计学习范式。无论路径如何，该概念作为长期AI研究的指路明灯，促使人们思考在一个日益自动化的世界中，智能和负责任意味着什么。