Un modelo oculto de Márkov (HMM) es un modelo estadístico en el que se supone que un sistema sigue un proceso de Márkov con estados no observados (ocultos), y cada estado produce una salida observable según una distribución de probabilidad. El modelo se define mediante dos procesos estocásticos: una secuencia de estados ocultos X y una secuencia observable Y, donde el resultado de Y en cualquier momento depende únicamente del estado actual de X, no de estados u observaciones pasadas. Esta propiedad de independencia condicional hace que los HMM sean tratables para analizar datos secuenciales donde las causas subyacentes no son directamente visibles.
Los HMM se aplican ampliamente en disciplinas como termodinámica, mecánica estadística, física, química, economía, finanzas, procesamiento de señales, teoría de la información y reconocimiento de patrones. Casos de uso específicos incluyen reconocimiento de voz, reconocimiento de escritura manual, reconocimiento de gestos, etiquetado de partes de la oración, seguimiento de partituras musicales, análisis de descargas parciales y bioinformática. El marco proporciona una forma fundamentada de inferir estados ocultos a partir de secuencias observadas y de estimar parámetros del modelo a partir de datos.
Definición Matemática
Formalmente, sean X_n e Y_n procesos estocásticos de tiempo discreto para n ≥ 1. El par (X_n, Y_n) es un modelo oculto de Márkov si X_n es un proceso de Márkov cuyo comportamiento no es directamente observable, y para cada n ≥ 1, cada secuencia x_1, ..., x_n, y cada conjunto de Borel A, la probabilidad P(Y_n ∈ A | X_1 = x_1, ..., X_n = x_n) es igual a P(Y_n ∈ A | X_n = x_n). Esta condición asegura que la observación en el tiempo n depende solo del estado oculto en ese mismo tiempo. Existe un análogo de tiempo continuo donde X_t e Y_t son procesos de tiempo continuo y la observación en el tiempo t_0 depende solo de X_{t_0}, dados todos los estados pasados.
Estimación de Parámetros
La estimación de parámetros de un HMM típicamente utiliza la estimación de máxima verosimilitud. Para HMM de cadena lineal, se emplea comúnmente el algoritmo de Baum-Welch, un caso especial del algoritmo de maximización de expectativas (EM). Este procedimiento iterativo alterna entre calcular estadísticas suficientes esperadas dados los parámetros actuales (paso E) y actualizar los parámetros para maximizar la log-verosimilitud esperada (paso M). El algoritmo converge a un máximo local de la función de verosimilitud, aunque no se garantiza la optimalidad global. En la práctica, se suelen usar múltiples inicializaciones aleatorias para mejorar los resultados.
Algoritmos de Inferencia
Más allá de la estimación de parámetros, los HMM requieren algoritmos para la inferencia. El algoritmo hacia adelante calcula la probabilidad de una secuencia observada dado el modelo, útil para la comparación de modelos. El algoritmo de Viterbi encuentra la secuencia más probable de estados ocultos que produjo una secuencia de observaciones dada, ampliamente utilizado en tareas de decodificación como el reconocimiento de voz. El algoritmo hacia adelante-hacia atrás calcula probabilidades posteriores de cada estado oculto en cada paso de tiempo, permitiendo tareas como suavizado y segmentación. Todos estos algoritmos se ejecutan en tiempo polinómico, lo que hace que los HMM sean computacionalmente eficientes para muchas aplicaciones.
Aplicaciones en Modelado de Secuencias
Los HMM han sido fundamentales en el modelado de secuencias, particularmente antes del auge del aprendizaje profundo. En el reconocimiento de voz, los HMM modelan fonemas como estados ocultos con observaciones acústicas como salidas. En bioinformática, se utilizan para la búsqueda de genes, la predicción de estructura secundaria de proteínas y la alineación de secuencias. En el procesamiento del lenguaje natural, los HMM se aplicaron al etiquetado de partes de la oración y al reconocimiento de entidades nombradas. Aunque los enfoques modernos como los modelos Transformer (architecture) y las arquitecturas Neural network han superado en gran medida a los HMM en muchos dominios, los HMM siguen siendo valiosos para problemas con datos limitados o donde la interpretabilidad y las garantías probabilísticas son importantes. También sirven como un puente conceptual hacia modelos Sequence-to-Sequence (Seq2Seq) más complejos y sistemas Generative AI.
Relación con el Aprendizaje Automático Moderno
Los HMM comparten raíces conceptuales con el Machine learning y la Artificial intelligence, particularmente en su enfoque en la inferencia probabilística sobre variables latentes. El algoritmo de Baum-Welch influyó en técnicas posteriores de optimización en Deep learning, y la idea de estados ocultos persiste en las arquitecturas de Large language model. Sin embargo, los HMM asumen una estructura de Márkov fija y estados discretos, mientras que los modelos modernos como los Transformer (architecture)s aprenden representaciones flexibles sin transiciones de estado explícitas. A pesar de esto, los HMM todavía se utilizan en sistemas híbridos, como la combinación de HMM con redes neuronales para el reconocimiento de voz, y en áreas como el Reinforcement learning donde las dependencias temporales importan. Su claridad matemática continúa informando la investigación en modelado probabilístico y Unsupervised learning.
Limitaciones y Extensiones
Los HMM tienen limitaciones conocidas, incluida la suposición de Márkov que limita las dependencias de largo alcance, y la dificultad de escalar a espacios de observación de alta dimensión. Las extensiones incluyen modelos ocultos semi-Márkov, que permiten modelar explícitamente las duraciones de los estados, y HMM jerárquicos que capturan estructura a múltiples escalas. En espacios de observación continuos, a menudo se utilizan modelos de mezcla gaussiana para las probabilidades de emisión. Estas extensiones abordan algunas debilidades pero aumentan la complejidad computacional. A partir de la década de 2020, los HMM siguen siendo una herramienta estándar en estadística y procesamiento de señales, aunque su dominio en el modelado de secuencias ha sido eclipsado por métodos de Deep learning.