神经符号人工智能是一个研究领域，它整合了人工智能中的两大范式：擅长从数据中学习的神经网络，以及使用显式规则和逻辑的符号推理。这种混合方法旨在克服每种范式的局限性，例如神经网络缺乏可解释性，以及符号系统难以处理嘈杂或非结构化数据。该术语在2010年代末期获得广泛关注，Gary Marcus和Joshua Tenenbaum等研究者的重要贡献推动了其发展，并已成为关于在机器中实现类人推理的讨论的核心主题。
背景与动机
传统人工智能历来分为两大阵营。符号人工智能在1950年代至1980年代占据主导地位，依赖于手工构建的规则和逻辑，以专家系统为代表。然而，这些系统在处理模糊性时存在困难，并且需要大量的人工知识工程。相比之下，机器学习，尤其是2010年代以来的深度学习，通过从大型数据集中学习模式，在图像识别和自然语言处理等任务中取得了显著成功。然而，神经网络通常充当“黑箱”，缺乏显式推理，并且容易被对抗样本欺骗。神经符号人工智能旨在结合两者的优势：神经网络的学习能力以及符号系统的透明性和逻辑结构。
关键方法与技术
存在多种整合神经和符号组件的策略。一种常见的方法是神经符号整合，其中神经网络用于学习表征，然后由符号推理器处理。例如，Paul Smolensky关于张量积表征的工作以及后来的可微分推理框架允许梯度通过符号操作流动。另一种方法是神经符号概念学习，其中像麻省理工学院研究者的“神经符号概念学习者”这样的模型将视觉感知与符号推理相结合，以回答关于场景的问题。此外，混合架构可能使用神经网络生成候选假设，然后由符号求解器进行验证，如数学推理或程序合成系统中的情况。
应用与用例
神经符号方法已应用于各个领域。在自然语言理解中，它们有助于处理需要常识推理的任务，例如问答和对话系统。在计算机视觉中，它们实现了组合式场景理解，其中对象及其关系被显式建模。在科学发现中，神经符号系统可以从数据中提出定律，并对照已知物理规则进行验证。此外，它们还用于机器人技术中的规划和操作，其中符号计划指导神经感知和控制。包括Google DeepMind和OpenAI在内的公司和研究实验室已探索了神经符号思想，尽管许多生产系统仍主要依赖纯神经方法。
挑战与批评
尽管前景广阔，神经符号人工智能仍面临重大挑战。可扩展性仍然是一个问题，因为符号推理通常难以扩展到大型复杂问题。整合难度源于神经和符号组件基于不同原理运作，使得无缝训练和推理并非易事。批评者认为，该领域缺乏统一的理论基础，许多提出的系统是临时拼凑的。此外，像GPT-4这样的大型语言模型的兴起使一些人质疑显式符号推理是否必要，因为这些模型表现出涌现式推理能力。然而，支持者反驳说，此类模型仍缺乏可靠性和可解释性，而神经符号方法可以提供这些特性。
未来方向
神经符号人工智能的未来可能涉及更深入的整合，例如可微分编程以及能够学习执行符号操作的神经网络。关于认知架构和概率编程的研究可能为结合学习和推理提供框架。人们也越来越有兴趣使用神经符号方法来提高AI系统的安全性和可信度，特别是在医疗保健和自动驾驶等高风险的领域。随着该领域的成熟，它可能有助于实现更通用和更稳健的AI，尽管它是否会成为主导范式还是保持为补充方法，仍是一个开放问题。