决策列表是一种机器学习模型，将分类或预测任务表示为有序的if-then规则序列。每条规则包含一个条件（对一个或多个输入特征的测试）和一个结果（类别标签或预测值）。当出现新实例时，模型按列表中规则的顺序进行评估，并返回第一个条件满足的规则的结果作为预测。如果没有规则匹配，则使用默认结果，通常是训练数据中最常见的类别。这种结构使决策列表天然具有可解释性，因为整个决策过程可以读作一组简单的线性指令。
决策列表是规则学习的一种形式，不同于使用层次分支结构的决策树。决策列表的顺序性意味着较早的规则优先于较晚的规则，从而能够紧凑地表示复杂的决策边界。它们在可解释性至关重要的领域特别有用，例如医疗诊断、信用评分或法律推理，并且在机器学习和人工智能的背景下得到了广泛研究。
历史起源
决策列表的概念由计算机科学家Ronald Rivest在1990年代初正式提出，他在1987年发表的论文《学习决策列表》中介绍了这一概念。Rivest以RSA密码系统的工作而闻名，他提出决策列表作为从示例中学习布尔函数的一种方式。他证明了固定大小的决策列表是PAC可学习的（可能近似正确），这意味着它们可以从合理数量的训练示例中高效学习。这一理论基础使决策列表成为比神经网络等更复杂模型的实用替代方案，而当时神经网络的理解和训练都较为困难。
Rivest的工作建立在早期规则归纳研究的基础上，例如卡内基梅隆大学研究员罗斯·昆兰开发的决策树ID3算法（尽管不在提供的slug列表中，其影响值得注意）。决策列表后来被扩展以处理连续特征和多类问题，并成为归纳逻辑编程领域的重要组成部分。
算法学习
从数据中学习决策列表通常采用贪心方法。算法从空列表开始，迭代选择覆盖部分训练实例的最佳规则，移除这些实例，然后对剩余数据重复该过程。“最佳”规则通常基于准确率、信息增益或覆盖率和精确度的组合等指标来选择。此过程持续到所有实例被覆盖或满足停止标准，例如剩余实例的最小数量或最大列表长度。
该算法的变体包括使用束搜索同时探索多个候选规则，以及引入剪枝技术以避免过拟合。例如，1980年代末开发的CN2算法使用束搜索来归纳有序规则，这与决策列表学习密切相关。更近期的方法通过从训练好的神经网络模型中提取规则来将决策列表与深度学习集成，这一过程称为规则提取，以提高可解释性。
应用与优势
决策列表的主要优势在于其透明性。与作为黑盒运行的大型语言模型或Transformer系统不同，决策列表可以被人类检查和理解，因此适用于高风险决策。例如，在医疗保健中，决策列表可能编码诸如“如果年龄>60且血压>140，则高风险”的规则，临床医生可以轻松验证。在金融领域，它们用于欺诈检测，其中每条规则对应一种特定的可疑行为模式。
决策列表还要求最小的计算资源，因为它们易于存储和执行。这使得它们对延迟关键的嵌入式系统或实时应用具有吸引力，例如在高通驱动的移动设备或基于安谋控股的微控制器中。它们已被用于国际象棋计算机程序中编码开局或残局启发式规则，以及TomTom导航系统中的交通分类。
与其他模型的关系
决策列表与决策树密切相关，但结构不同。决策树可以通过将每条根到叶路径遍历为规则来转换为等效的决策列表，但这可能导致更长的列表。相反，决策列表可以表示为每个节点最多有一个子节点的退化树，但这并不总是高效的。在更广泛的机器学习领域中，决策列表被视为“白盒”模型的一种形式，与深度学习网络等“黑盒”模型形成对比。它们常被用作与更复杂算法比较的基线，并作为集成方法（如提升）中的构建块，其中多个弱决策列表被组合。
在现代AI研究中，决策列表在可解释AI（XAI）背景下重新引起了兴趣。麻省理工学院计算机科学与人工智能实验室和斯坦福AI实验室等机构的研究人员探索了从神经网络预测生成决策列表的方法，旨在为生成式AI系统做出的决策提供人类可理解的解释。这种混合方法利用了深度模型的准确性，同时保留了基于规则的系统的可解释性。
局限性与扩展
决策列表的一个关键局限性是其表达能力。它们只能表示轴对齐的决策边界（即每条规则测试单个特征或简单条件的合取），这可能无法捕捉特征之间的复杂交互。这可能导致在具有复杂模式的任务上，与残差网络或U-Net等非线性模型相比准确率较低。此外，贪心学习过程可能产生次优列表，且规则的顺序至关重要，因为早期过于宽泛的规则可能掩盖更具体的规则。
为解决这些问题，扩展包括模糊决策列表（允许条件具有真度程度）和概率决策列表（输出置信度分数）。另一个扩展是在强化学习中使用决策列表，它们作为将状态映射到动作的策略，如某些Sanctuary AI机器人项目所示。尽管简单，决策列表仍然是AI工具包中的宝贵工具，以其他模型难以匹敌的方式平衡了准确性和可解释性。