L'apprentissage automatique est une sous-discipline de l'intelligence artificielle dans laquelle les systèmes informatiques améliorent leurs performances sur une tâche en apprenant des motifs statistiques à partir de données, plutôt qu'en suivant des règles programmées manuellement. Il sous-tend la plupart des applications contemporaines d'intelligence artificielle, des filtres anti-spam aux grands modèles de langage.
Le terme est généralement attribué à arthur-samuel, qui l'a utilisé en 1959 pour décrire un programme de jeu de dames qui s'améliorait par l'auto-apprentissage.
Paradigmes
L'apprentissage automatique est couramment divisé en trois paradigmes. Dans l'apprentissage supervisé, un modèle apprend à partir d'exemples associés à des étiquettes, comme des images annotées par catégories d'objets. Dans l'apprentissage non supervisé, un modèle découvre une structure dans des données non étiquetées, par exemple en regroupant des éléments similaires. Dans l'apprentissage par renforcement, un agent apprend en agissant dans un environnement et en recevant des récompenses ou des pénalités, une approche qui a produit des résultats marquants comme AlphaGo. Une quatrième approche, l'apprentissage auto-supervisé, génère son propre signal d'entraînement à partir de données non étiquetées, par exemple en prédisant un mot masqué dans un contexte, et constitue la méthode derrière le pré-entraînement des modèles de langage modernes.
Méthodes principales
La plupart des modèles d'apprentissage automatique sont entraînés en définissant une fonction de perte qui mesure l'écart entre les prédictions du modèle et les résultats attendus, puis en ajustant les paramètres du modèle pour réduire cette perte via la descente de gradient ou une autre procédure d'optimisation. Les approches statistiques antérieures à l'ère de l'apprentissage profond, comme les machines à vecteurs de support développées par vladimir-vapnik et ses collègues, restent utilisées pour des problèmes plus petits ou plus interprétables. Depuis les années 2010, les modèles basés sur les réseaux de neurones, en particulier les architectures d'apprentissage profond, sont devenus dominants pour les tâches impliquant des images, de l'audio et du texte, à condition de disposer de données et de puissance de calcul suffisantes.
Préoccupations pratiques
Un défi central de l'apprentissage automatique est le surapprentissage, lorsqu'un modèle mémorise des motifs spécifiques aux données d'entraînement plutôt que d'apprendre des généralisations valables pour de nouvelles données. Les praticiens y remédient par des techniques telles que la régularisation, la validation croisée et la mise de côté d'un ensemble de test. La qualité et l'échelle des données d'entraînement, ainsi que le choix de l'architecture du modèle, sont généralement des facteurs bien plus déterminants pour la performance réelle que n'importe quelle astuce algorithmique individuelle.
Adoption
L'apprentissage automatique est passé d'une discipline académique à une pratique industrielle courante au cours des années 2010, en partie grâce à des frameworks accessibles au public, au cloud computing et à des enseignants comme andrew-ng, dont les cours en ligne ont introduit le domaine à un large public. Il sous-tend désormais le classement des résultats de recherche, la détection de fraude, l'analyse d'imagerie médicale, les systèmes de recommandation et l'entraînement des grands modèles de langage qui alimentent les assistants conversationnels modernes.
La distinction entre l'apprentissage automatique et les logiciels plus anciens basés sur des règles n'est pas toujours nette en pratique, car de nombreux systèmes de production combinent des composants appris avec une logique métier codée à la main. Cependant, la caractéristique déterminante d'un système d'apprentissage automatique reste que son comportement est façonné de manière substantielle par les données sur lesquelles il a été entraîné, plutôt que par des règles écrites directement par un programmeur.