En apprentissage automatique, un hyperparamètre est un paramètre qui peut être défini afin de spécifier toute partie configurable du processus d’apprentissage d’un modèle. Les hyperparamètres sont classés soit comme hyperparamètres de modèle, tels que la topologie et la taille d’un réseau de neurones, soit comme hyperparamètres d’algorithme, tels que le taux d’apprentissage et la taille de lot d’un optimiseur. Ils sont nommés hyperparamètres par contraste avec les paramètres, qui sont des caractéristiques que le modèle apprend à partir des données pendant l’entraînement.
Les hyperparamètres ne sont pas requis par tous les modèles ou algorithmes. Certains algorithmes simples, comme la régression des moindres carrés ordinaires, n’en nécessitent aucun. Cependant, l’algorithme LASSO, par exemple, ajoute un hyperparamètre de régularisation aux moindres carrés ordinaires qui doit être défini avant l’entraînement. Même les modèles et algorithmes sans exigence stricte de définition d’hyperparamètres peuvent ne pas produire de résultats significatifs si ceux-ci ne sont pas soigneusement choisis. Les valeurs optimales des hyperparamètres ne sont pas toujours faciles à prédire ; certains hyperparamètres peuvent n’avoir aucun effet significatif, ou une variable importante peut être conditionnelle à la valeur d’une autre. Souvent, un processus distinct de réglage des hyperparamètres est nécessaire pour trouver une combinaison adaptée aux données et à la tâche. En plus d’améliorer les performances du modèle, les hyperparamètres peuvent être utilisés par les chercheurs pour introduire robustesse et reproductibilité dans leur travail, surtout s’il utilise des modèles intégrant la génération de nombres aléatoires.
Considérations
Le temps requis pour entraîner et tester un modèle peut dépendre du choix de ses hyperparamètres. Un hyperparamètre est généralement de type continu ou entier, ce qui conduit à des problèmes d’optimisation de type mixte. L’existence de certains hyperparamètres est conditionnelle à la valeur d’autres, par exemple, la taille de chaque couche cachée dans un réseau de neurones peut être conditionnelle au nombre de couches. Par conséquent, les hyperparamètres peuvent former des espaces de configuration hiérarchiques ou conditionnels, où un choix de conception détermine quels hyperparamètres supplémentaires sont pertinents.
Paramètres difficiles à apprendre
La fonction objectif est typiquement non différentiable par rapport aux hyperparamètres. En conséquence, dans la plupart des cas, les hyperparamètres ne peuvent pas être appris à l’aide de méthodes d’optimisation basées sur le gradient, telles que la descente de gradient, qui sont couramment employées pour apprendre les paramètres du modèle. Ces hyperparamètres décrivent une représentation du modèle qui ne peut pas être apprise par des méthodes d’optimisation courantes mais qui affectent néanmoins la fonction de perte. Un exemple est l’hyperparamètre de tolérance pour les erreurs dans les machines à vecteurs de support.
Paramètres non entraînables
Parfois, les hyperparamètres ne peuvent pas être appris à partir des données d’entraînement car ils augmentent agressivement la capacité d’un modèle et peuvent pousser la fonction de perte vers un minimum indésirable, conduisant à un surajustement des données, plutôt qu’à mapper correctement la richesse de la structure des données. Par exemple, si le degré d’une équation polynomiale ajustant un modèle de régression est traité comme un paramètre entraînable, le degré augmenterait jusqu’à ce que le modèle s’ajuste parfaitement aux données, produisant une faible erreur d’entraînement mais une mauvaise performance de généralisation.
Ajustabilité
La plupart des variations de performance peuvent être attribuées à seulement quelques hyperparamètres. L’ajustabilité d’un algorithme, d’un hyperparamètre ou d’hyperparamètres en interaction est une mesure de la quantité de performance qui peut être gagnée en les réglant. Pour un LSTM, bien que le taux d’apprentissage suivi de la taille du réseau soient ses hyperparamètres les plus cruciaux, le regroupement en lots et l’élan n’ont aucun effet significatif sur sa performance. Bien que certaines recherches aient préconisé l’utilisation de tailles de mini-lots en milliers, d’autres travaux ont trouvé la meilleure performance avec des tailles de mini-lots entre 2 et 32.
Robustesse
Une stochasticité inhérente à l’apprentissage implique directement que la performance empirique des hyperparamètres n’est pas nécessairement leur performance réelle. Les méthodes qui ne sont pas robustes aux simples changements d’hyperparamètres, de graines aléatoires, ou même de différentes implémentations du même algorithme ne peuvent pas être intégrées dans des systèmes de contrôle critiques sans simplification et robustification significatives. En retour, les choix d’hyperparamètres peuvent affecter non seulement la performance prédictive mais aussi la robustesse et la stabilité des sorties d’un modèle sous des conditions d’entrée modifiées ou bruitées. Les algorithmes d’apprentissage par renforcement, en particulier, nécessitent de mesurer leur performance sur un grand nombre de graines aléatoires et aussi de mesurer leur sensibilité aux choix d’hyperparamètres. Leur évaluation avec un petit nombre de graines aléatoires ne capture pas adéquatement la performance en raison d’une variance élevée. Certaines méthodes d’apprentissage par renforcement, telles que DDPG (Deep Deterministic Policy Gradient), sont plus sensibles aux choix d’hyperparamètres que d’autres.
Optimisation
L’optimisation des hyperparamètres trouve un tuple d’hyperparamètres qui produit un modèle optimal minimisant une fonction de perte prédéfinie sur des données de test données. La fonction objectif prend un tuple d’hyperparamètres et retourne la perte associée. Typiquement, ces méthodes ne sont pas basées sur le gradient et appliquent plutôt des concepts de l’optimisation sans dérivée ou de l’optimisation en boîte noire. Les techniques courantes incluent la recherche par grille, la recherche aléatoire et l’optimisation bayésienne, bien que la source ne spécifie pas ces détails.
Reproductibilité
En plus du réglage des hyperparamètres, l’apprentissage automatique implique de stocker et d’organiser les paramètres et les résultats, et de s’assurer qu’ils sont reproductibles. En l’absence d’une infrastructure robuste à cette fin, le code de recherche évolue souvent rapidement et compromet des aspects essentiels comme la tenue de registres et la reproductibilité. Les plateformes de collaboration en ligne pour l’apprentissage automatique vont plus loin en permettant aux scientifiques de partager, organiser et discuter automatiquement des expériences, des données et des algorithmes. La reproductibilité peut être particulièrement difficile pour les modèles de apprentissage profond. Par exemple, la recherche a montré que les modèles d’apprentissage profond dépendent très fortement même de la sélection de la graine aléatoire du générateur de nombres aléatoires.
Voir aussi
- Hyper-heuristique
- Crise de la réplication