Um campo aleatório condicional (CRF) é uma classe de métodos de modelagem estatística usados para predição estruturada em reconhecimento de padrões e aprendizado de máquina. Diferentemente de um classificador que prevê um rótulo para uma única amostra sem considerar amostras vizinhas, um CRF pode levar o contexto em consideração ao modelar predições como um modelo gráfico que representa dependências entre elas. A estrutura do grafo depende da aplicação: por exemplo, no processamento de linguagem natural, CRFs de cadeia linear são populares, onde cada predição depende apenas de seus vizinhos imediatos; no processamento de imagens, o grafo tipicamente conecta locais a locais próximos ou semelhantes para impor predições consistentes.
CRFs são modelos probabilísticos gráficos não direcionados discriminativos. Formalmente, dadas observações \(\boldsymbol{X}\) e variáveis aleatórias \(\boldsymbol{Y}\) indexadas por vértices \(V\) de um grafo \(G=(V,E)\), o par \((\boldsymbol{X},\boldsymbol{Y})\) é um campo aleatório condicional se cada variável \(\boldsymbol{Y}_v\), condicionada a \(\boldsymbol{X}\), obedece à propriedade de Markov com respeito ao grafo: sua probabilidade depende apenas de seus vizinhos em \(G\), não de outras variáveis. Isso significa que os nós são divididos em dois conjuntos disjuntos, variáveis observadas \(\boldsymbol{X}\) e variáveis de saída \(\boldsymbol{Y}\), e a distribuição condicional \(p(\boldsymbol{Y}|\boldsymbol{X})\) é modelada.
Aplicações
CRFs são amplamente usados para rotular ou analisar dados sequenciais em processamento de linguagem natural e sequências biológicas. Tarefas comuns incluem etiquetagem de classes gramaticais, análise sintática superficial, reconhecimento de entidades nomeadas, descoberta de genes e descoberta de regiões funcionais críticas de peptídeos. Em visão computacional, CRFs são aplicados ao reconhecimento de objetos e segmentação de imagens, onde o contexto espacial ajuda a produzir rótulos coerentes. Por exemplo, na segmentação de imagens, um CRF pode impor que pixels vizinhos com cores semelhantes recebam o mesmo rótulo.
Inferência
Para grafos gerais, a inferência exata em CRFs é intratável, semelhante aos campos aleatórios de Markov. No entanto, casos especiais permitem soluções exatas. Se o grafo é uma cadeia ou uma árvore, algoritmos de propagação de mensagens produzem resultados exatos, análogos aos algoritmos forward-backward e Viterbi usados para modelos ocultos de Markov. Se o CRF contém apenas potenciais de pares e a energia é submodular, algoritmos combinatórios de fluxo máximo e corte mínimo fornecem soluções exatas. Quando a inferência exata é impossível, métodos aproximados incluem propagação de crenças com loops, expansão alfa, inferência de campo médio e relaxações de programação linear.
Aprendizado de Parâmetros
O aprendizado dos parâmetros \(\theta\) é tipicamente feito por estimativa de máxima verossimilhança de \(p(Y_i|X_i;\theta)\). Se todos os nós têm distribuições de família exponencial e todos os nós são observados durante o treinamento, o problema de otimização é convexo e pode ser resolvido usando descida de gradiente ou métodos quase-Newton como L-BFGS. Se algumas variáveis não são observadas, a inferência deve ser realizada para essas variáveis, e como a inferência exata é intratável em grafos gerais, aproximações são usadas.
Relação com Outros Modelos
CRFs estão relacionados aos modelos ocultos de Markov (HMMs), mas são discriminativos, modelando a distribuição condicional diretamente em vez da distribuição conjunta. Isso permite que CRFs incorporem características arbitrárias e sobrepostas das observações sem suposições de independência. Na modelagem de sequências, um CRF de cadeia linear é um caso especial onde o grafo é uma cadeia, tornando a inferência eficiente. CRFs foram influentes em processamento de linguagem natural e visão computacional, e permanecem relevantes em pipelines modernos de aprendizado de máquina, embora métodos de aprendizado profundo tenham amplamente os substituído em muitas aplicações. No entanto, CRFs são às vezes combinados com modelos de rede neural, como em CRFs neurais para etiquetagem de sequências, onde uma rede neural calcula características e uma camada CRF modela dependências.