宾夕法尼亚树库（PTB）是一个英语文本语料库，带有词性标注和句法短语结构树。它于20世纪90年代初在宾夕法尼亚大学开发，成为训练和评估自然语言处理（NLP）系统的标准基准。“树库”这一名称指的是层级解析结构，即树，它编码了句子中单词之间的语法关系。
最初的版本专注于ACL选集语料库中的《华尔街日报》（WSJ）部分，包含约100万词的新闻文本。后来的版本扩展到其他体裁，如转录的电话对话、广播新闻和网络文本。PTB标注方案使用一组36个词性标签（例如，NN表示单数名词，VBD表示过去时动词）和一组短语类别（例如，NP、VP、PP），并带有主语和宾语等语法功能的标签。
构建与标注
PTB由宾夕法尼亚大学的Mitchell Marcus领导的团队构建，Beatrice Santorini和Mary Ann Marcinkiewicz等研究人员也做出了贡献。标注过程包括两个主要阶段：词性标注和句法括号化。人工标注者首先为每个标记分配标签，然后进行单独的遍次以创建短语边界。指南手册，通常称为“括号化指南”，详细规定了处理标点、并列和其他语言现象的规则。
该语料库从1993年开始逐步发布。第一个公开版本，宾夕法尼亚树库-1（PTB-1），包含跨多种体裁的450万词解析文本。一个更广泛引用的版本，宾夕法尼亚树库-3（PTB-3），于1999年发布，完善了标注并添加了WSJ部分，这些部分成为许多NLP任务的事实标准。根据LDC目录，首次发布的确切日期是1993年3月。
对NLP研究的影响
PTB成为词性标注和句法解析研究的基石。在20世纪90年代和2000年代，诸如CoNLL共享任务等竞争性评估使用了源自PTB的数据集，推动了统计解析的进展，包括概率上下文无关文法（PCFG）和词汇化解析器等模型。例如，eugene-charniak的解析器和stanford-parser经常在PTB测试集上报告准确率。
除了解析之外，PTB的WSJ部分还被重新用于许多其他任务，包括命名实体识别和语义角色标注。该语料库还通过提供黄金标准标注来支持NLTK和spaCy的开发，用于训练和评估。现代机器学习方法在深度学习中，如循环神经网络和变换器，仍然在PTB数据上报告困惑度或准确率数字，尽管在大型预训练大型语言模型时代，其使用有所下降。
标准基准和变体
一个常见的实验设置是PTB词级语言建模基准，其中训练、验证和测试划分分别对应WSJ部分0-20、21-22和23-24。这一划分由Tomáš Mikolov及其同事于2010年建立，允许跨模型进行可复现的比较。该基准涉及在给定先前上下文的情况下预测下一个词，性能通过困惑度来衡量。许多早期的神经网络语言模型，如LSTM和GRU，在此基准上实现了显著的困惑度降低。
PTB还催生了多种标注变体，包括?和通用依赖转换，后者将原始标签集映射到跨语言标注方案。谷歌于2015年发布的Google句法n-gram数据集，从PTB风格标注中提取了带有周围解析上下文的n-gram，进一步扩展了其影响力。
局限性与批评
PTB具有明显的局限性。其主要的新闻领域和相对较小的规模（约100万词的WSJ）限制了对其他文本类型的泛化能力。标注不一致性，特别是围绕标点和某些动词结构的问题，已被记录在案。此外，该语料库反映了特定时间段（20世纪80年代末至90年代初）的英语，可能无法捕捉当代用法。
批评者指出，PTB上的表现并不总是与真实世界的解析稳健性相关，因为基准的简单性可能掩盖了诸如分布外泛化等问题。因此，研究人员已转向更大、更多样化的语料库，包括基于维基百科的数据集和多语言资源。
遗产与持续使用
尽管年代久远，PTB仍然作为教学资源和新模型的健全性检查而具有影响力。其标注指南为其他语言的后续树库提供了参考，如中文树库和阿拉伯语树库，两者也由宾夕法尼亚大学制作。PTB由语言数据联盟（LDC）托管，并需要许可证才能重新分发。
在现代人工智能的背景下，PTB的作用有所减弱但并未消失。例如，深度学习教科书和课程仍使用PTB作为原型序列模型的简单数据集。其结构化性质也使其适用于研究神经模型中的语言结构。该语料库仍然是理解NLP历史轨迹的参考点，从基于规则的系统到数据驱动的统计方法及更远。
标注指南与文档
PTB在几份技术报告和用户手册中有详细记录，最著名的是Marcus等人于1994年发表的《宾夕法尼亚树库：标注谓词论元结构》，其中详细说明了标注方案。LDC的官方分发包括文件格式转换的说明。标签集和指南已被广泛采用，并仍在计算语言学课程中教授。