条件随机场（CRF）是一类用于模式识别和机器学习中结构化预测的统计建模方法。与不考虑邻近样本、仅为单个样本预测标签的分类器不同，CRF可以通过将预测建模为表示它们之间依赖关系的图模型来考虑上下文。图结构取决于应用场景：例如，在自然语言处理中，线性链CRF较为流行，其中每个预测仅依赖于其直接邻居；在图像处理中，图通常连接邻近或相似位置，以强制执行一致的预测。
CRF是判别式无向概率图模型。形式上，给定观测值 \(\boldsymbol{X}\) 和由图 \(G=(V,E)\) 的顶点 \(V\) 索引的随机变量 \(\boldsymbol{Y}\)，如果每个变量 \(\boldsymbol{Y}_v\) 在给定 \(\boldsymbol{X}\) 的条件下，相对于图满足马尔可夫性质，即其概率仅依赖于其在 \(G\) 中的邻居，而不依赖于其他变量，则对 \((\boldsymbol{X},\boldsymbol{Y})\) 构成条件随机场。这意味着节点被分为两个不相交的集合，即观测变量 \(\boldsymbol{X}\) 和输出变量 \(\boldsymbol{Y}\)，并建模条件分布 \(p(\boldsymbol{Y}|\boldsymbol{X})\)。
应用
CRF广泛用于自然语言处理和生物序列中序列数据的标注或解析。常见任务包括词性标注、浅层句法分析、命名实体识别、基因发现和肽关键功能区域发现。在计算机视觉中，CRF应用于目标识别和图像分割，其中空间上下文有助于生成连贯的标签。例如，在图像分割中，CRF可以强制具有相似颜色的相邻像素获得相同标签。
推断
对于一般图，CRF中的精确推断是难以处理的，类似于马尔可夫随机场。然而，特殊情况允许精确解。如果图是链或树，消息传递算法可以产生精确结果，类似于用于隐马尔可夫模型的前向-后向和维特比算法。如果CRF仅包含成对势能且能量是子模的，则组合最大流最小割算法提供精确解。当精确推断不可行时，近似方法包括环状置信传播、alpha扩展、平均场推断和线性规划松弛。
参数学习
学习参数 \(\theta\) 通常通过 \(p(Y_i|X_i;\theta)\) 的最大似然估计进行。如果所有节点具有指数族分布，并且在训练期间所有节点都被观测到，则优化问题是凸的，可以使用梯度下降或拟牛顿方法（如L-BFGS）求解。如果某些变量未被观测，则必须对这些变量进行推断，并且由于一般图中的精确推断难以处理，因此使用近似方法。
与其他模型的关系
CRF与隐马尔可夫模型（HMM）相关，但它们是判别式的，直接建模条件分布而非联合分布。这使得CRF能够在不作独立性假设的情况下纳入观测值的任意、重叠特征。在序列建模中，线性链CRF是图呈链状的特殊情况，使推断高效。CRF在Natural language processing和Computer vision中具有影响力，并在现代Machine learning流程中仍然相关，尽管深度学习方法在许多应用中已基本取代它们。然而，CRF有时与Neural network模型结合使用，例如用于序列标注的神经CRF，其中神经网络计算特征，CRF层建模依赖关系。