Un modèle de Markov caché (HMM) est un modèle statistique dans lequel on suppose qu'un système suit un processus de Markov avec des états non observés (cachés), et chaque état produit une sortie observable selon une distribution de probabilité. Le modèle est défini par deux processus stochastiques : une séquence d'états cachés X et une séquence observable Y, où le résultat de Y à tout moment ne dépend que de l'état actuel de X, et non des états ou observations passés. Cette propriété d'indépendance conditionnelle rend les HMM traitables pour analyser des données séquentielles où les causes sous-jacentes ne sont pas directement visibles.
Les HMM sont largement appliqués dans diverses disciplines, notamment la thermodynamique, la mécanique statistique, la physique, la chimie, l'économie, la finance, le traitement du signal, la théorie de l'information et la reconnaissance de formes. Des cas d'utilisation spécifiques incluent la reconnaissance vocale, la reconnaissance de l'écriture manuscrite, la reconnaissance de gestes, l'étiquetage morpho-syntaxique, le suivi de partitions musicales, l'analyse des décharges partielles et la bioinformatique. Le cadre fournit une manière fondée d'inférer les états cachés à partir de séquences observées et d'estimer les paramètres du modèle à partir des données.
Définition mathématique
Formellement, soient X_n et Y_n des processus stochastiques à temps discret pour n ≥ 1. La paire (X_n, Y_n) est un modèle de Markov caché si X_n est un processus de Markov dont le comportement n'est pas directement observable, et pour chaque n ≥ 1, chaque séquence x_1, ..., x_n, et chaque ensemble borélien A, la probabilité P(Y_n ∈ A | X_1 = x_1, ..., X_n = x_n) est égale à P(Y_n ∈ A | X_n = x_n). Cette condition garantit que l'observation au temps n ne dépend que de l'état caché à ce même moment. Un analogue à temps continu existe où X_t et Y_t sont des processus à temps continu et l'observation au temps t_0 ne dépend que de X_{t_0}, étant donné tous les états passés.
Estimation des paramètres
L'estimation des paramètres d'un HMM utilise généralement l'estimation par maximum de vraisemblance. Pour les HMM à chaîne linéaire, l'algorithme de Baum-Welch, un cas particulier de l'algorithme d'espérance-maximisation (EM), est couramment employé. Cette procédure itérative alterne entre le calcul des statistiques suffisantes attendues étant donné les paramètres actuels (étape E) et la mise à jour des paramètres pour maximiser la log-vraisemblance attendue (étape M). L'algorithme converge vers un maximum local de la fonction de vraisemblance, bien que l'optimalité globale ne soit pas garantie. En pratique, plusieurs initialisations aléatoires sont souvent utilisées pour améliorer les résultats.
Algorithmes d'inférence
Au-delà de l'estimation des paramètres, les HMM nécessitent des algorithmes pour l'inférence. L'algorithme avant calcule la probabilité d'une séquence observée étant donné le modèle, utile pour la comparaison de modèles. L'algorithme de Viterbi trouve la séquence d'états cachés la plus probable qui a produit une séquence d'observations donnée, largement utilisé dans des tâches de décodage comme la reconnaissance vocale. L'algorithme avant-arrière calcule les probabilités a posteriori de chaque état caché à chaque pas de temps, permettant des tâches telles que le lissage et la segmentation. Ces algorithmes s'exécutent tous en temps polynomial, ce qui rend les HMM efficaces sur le plan computationnel pour de nombreuses applications.
Applications en modélisation de séquences
Les HMM ont été fondamentaux dans la modélisation de séquences, en particulier avant l'essor de l'apprentissage profond. En reconnaissance vocale, les HMM modélisent les phonèmes comme des états cachés avec des observations acoustiques comme sorties. En bioinformatique, ils sont utilisés pour la prédiction de gènes, la prédiction de la structure secondaire des protéines et l'alignement de séquences. En traitement du langage naturel, les HMM ont été appliqués à l'étiquetage morpho-syntaxique et à la reconnaissance d'entités nommées. Bien que les approches modernes comme les modèles transformers et les architectures de réseaux de neurones aient largement supplanté les HMM dans de nombreux domaines, les HMM restent précieux pour les problèmes avec des données limitées ou lorsque l'interprétabilité et les garanties probabilistes sont importantes. Ils servent également de pont conceptuel vers des modèles plus complexes séquence-à-séquence et des systèmes d'IA générative.
Relation avec l'apprentissage automatique moderne
Les HMM partagent des racines conceptuelles avec l'apprentissage automatique et l'intelligence artificielle, en particulier dans leur focus sur l'inférence probabiliste sur des variables latentes. L'algorithme de Baum-Welch a influencé les techniques d'optimisation ultérieures en apprentissage profond, et l'idée d'états cachés persiste dans les architectures de grands modèles de langage. Cependant, les HMM supposent une structure de Markov fixe et des états discrets, tandis que les modèles modernes comme les transformers apprennent des représentations flexibles sans transitions d'états explicites. Malgré cela, les HMM sont encore utilisés dans des systèmes hybrides, comme la combinaison de HMM avec des réseaux de neurones pour la reconnaissance vocale, et dans des domaines comme le apprentissage par renforcement où les dépendances temporelles comptent. Leur clarté mathématique continue d'informer la recherche en modélisation probabiliste et en apprentissage non supervisé.
Limites et extensions
Les HMM présentent des limites connues, notamment l'hypothèse de Markov qui limite les dépendances à longue portée, et la difficulté de passer à l'échelle pour des espaces d'observations de haute dimension. Les extensions incluent les modèles de Markov cachés semi-Markoviens, qui permettent de modéliser explicitement les durées des états, et les HMM hiérarchiques qui capturent une structure multi-échelle. Dans les espaces d'observations continus, les modèles de mélanges gaussiens sont souvent utilisés pour les probabilités d'émission. Ces extensions abordent certaines faiblesses mais augmentent la complexité computationnelle. Depuis les années 2020, les HMM restent un outil standard en statistique et en traitement du signal, bien que leur dominance dans la modélisation de séquences ait été éclipsée par les méthodes de apprentissage profond.