Los modelos gráficos probabilísticos (PGM, por sus siglas en inglés), también conocidos como modelos gráficos o modelos probabilísticos estructurados, son modelos probabilísticos en los que un grafo expresa la estructura de dependencia condicional entre variables aleatorias. Se utilizan ampliamente en teoría de la probabilidad, estadística - especialmente estadística bayesiana - y aprendizaje automático. Al codificar las dependencias como aristas y las independencias como separaciones en el grafo, los PGM proporcionan una representación compacta de distribuciones conjuntas complejas, haciendo que la inferencia y el aprendizaje sean tratables en muchas aplicaciones.
La idea central es representar una distribución sobre un espacio multidimensional mediante un grafo, donde los nodos corresponden a variables aleatorias y las aristas indican dependencias probabilísticas. Esta factorización basada en grafos captura un conjunto de independencias condicionales que se cumplen en la distribución, permitiendo el cálculo eficiente de probabilidades marginales y condicionales. Existen dos ramas principales de representaciones gráficas: las redes bayesianas (dirigidas) y los campos aleatorios de Markov (no dirigidos). Ambas comparten las propiedades de factorización e independencias, pero difieren en los tipos de independencias que pueden codificar y en la factorización resultante de la distribución.
Tipos de Modelos Gráficos Probabilísticos
Redes Bayesianas
Una red bayesiana, también llamada modelo gráfico dirigido o red de creencias, utiliza un grafo acíclico dirigido (DAG) para representar la distribución de probabilidad conjunta. En dicho modelo, la probabilidad conjunta de las variables aleatorias \(X_1, \ldots, X_n\) se factoriza como un producto de distribuciones condicionales:
\[ P[X_1, \ldots, X_n] = \prod_{i=1}^n P[X_i \mid \text{pa}(X_i)] \]
donde \(\text{pa}(X_i)\) denota el conjunto de padres del nodo \(X_i\) (nodos con aristas dirigidas hacia \(X_i\)). Esta factorización implica que cualquier nodo es condicionalmente independiente de sus no descendientes dado sus padres. El concepto de d-separación proporciona un criterio teórico-gráfico para determinar independencias condicionales entre conjuntos de variables. En las redes bayesianas, las independencias locales (basadas en relaciones padre-hijo) son equivalentes a las independencias globales (basadas en d-separación).
Modelos clásicos de aprendizaje automático como los modelos ocultos de Markov, las redes neuronales y los modelos de Markov de orden variable pueden considerarse casos especiales de redes bayesianas. Una de las redes bayesianas más simples es el clasificador Naive Bayes, que asume independencia condicional de las características dado la etiqueta de clase.
Modelos Gráficos No Dirigidos
Los modelos gráficos no dirigidos, también conocidos como campos aleatorios de Markov (MRF), representan dependencias mediante aristas no dirigidas. En un grafo no dirigido, la presencia de una arista implica una dependencia entre las variables aleatorias correspondientes, pero la ausencia de una arista implica independencia condicional dado todas las demás variables. Por ejemplo, en un grafo donde los nodos B, C y D están conectados solo al nodo A, las variables B, C y D son condicionalmente independientes dado A. La distribución de probabilidad conjunta puede entonces factorizarse como un producto de funciones no negativas sobre los cliques (subconjuntos completamente conectados) del grafo. Por ejemplo, si el grafo tiene aristas AB, AC y AD, la distribución conjunta puede escribirse como:
\[ P[A,B,C,D] = f_{AB}[A,B] \cdot f_{AC}[A,C] \cdot f_{AD}[A,D] \]
para algunas funciones no negativas \(f_{AB}, f_{AC}, f_{AD}\). Esta factorización refleja la estructura local de las dependencias.
Modelos Gráficos Dirigidos Cíclicos
Aunque las redes bayesianas típicamente requieren grafos acíclicos, algunos modelos permiten ciclos. En un modelo gráfico dirigido cíclico, cada variable puede depender de sus padres de manera que puede conducir a bucles de retroalimentación. Por ejemplo, un grafo con un ciclo podría sugerir una densidad conjunta que se factoriza como:
\[ P[A,B,C,D] = P[A] \cdot P[B] \cdot P[C,D \mid A,B] \]
pero otras interpretaciones son posibles. Los modelos cíclicos son menos comunes debido a las complejidades en la inferencia y la interpretación.
Otros Tipos
Varios otros tipos de modelos gráficos probabilísticos extienden los marcos básicos:
- Redes de dependencia: Permiten ciclos y representan distribuciones condicionales para cada variable dado todas las demás.
- Clasificadores aumentados por árboles (TAN): Son redes bayesianas que aumentan una estructura naive Bayes con aristas entre características para capturar dependencias.
- Aprendizaje de redes bayesianas dirigido a objetivos (TBNL): Se centra en aprender una red optimizada para una variable objetivo específica.
- Grafos de factores: Son grafos bipartitos no dirigidos que conectan variables y factores, donde cada factor representa una función sobre las variables que conecta. Los grafos de factores son útiles para implementar la propagación de creencias.
- Árboles de cliques o árboles de unión: Son árboles de cliques utilizados en el algoritmo de árbol de unión para inferencia exacta.
- Grafos de cadena: Estos grafos pueden tener tanto aristas dirigidas como no dirigidas, pero sin ciclos dirigidos, permitiendo una mezcla de tipos de dependencia.
Aplicaciones e Importancia
Los modelos gráficos probabilísticos son fundamentales en Machine learning, donde proporcionan un marco principista para el razonamiento bajo incertidumbre. Se utilizan en Artificial intelligence para tareas como Generative AI, donde modelos como los modelos de lenguaje grandes y los transformadores, aunque a menudo basados en redes neuronales, pueden interpretarse a través de lentes probabilísticas. Los PGM también se aplican en campos como la visión por computadora, el procesamiento del lenguaje natural, la bioinformática y la robótica. Su capacidad para combinar conocimiento del dominio con aprendizaje basado en datos los convierte en herramientas poderosas tanto para la inferencia como para la toma de decisiones.
Conceptos Relacionados
Los modelos gráficos probabilísticos están estrechamente relacionados con Deep learning y las redes neuronales, ya que muchas arquitecturas profundas pueden verse como casos especiales de modelos gráficos. Por ejemplo, los modelos ocultos de Markov son un ejemplo clásico. Investigadores como Michael Jordan y Daphne Koller han avanzado significativamente la teoría y la aplicación de los PGM. Los desarrollos modernos en Generative AI y los modelos de lenguaje grandes a menudo se basan en principios probabilísticos, incluso si no se enmarcan explícitamente como modelos gráficos.