Un algorithme émergent est une procédure computationnelle dont le comportement global résulte des interactions de ses composants individuels, plutôt que d'une programmation explicite ou d'un contrôle central. Dans le contexte de l'intelligence artificielle, le terme décrit des situations où un réseau de neurones ou un grand modèle de langage développe des capacités ou des stratégies qui n'ont pas été directement conçues ou anticipées par ses créateurs. Ces comportements émergent des motifs statistiques appris lors de l'entraînement sur de vastes ensembles de données, souvent à grande échelle, et font l'objet de recherches actives et de débats dans le domaine.
Le concept s'inspire de théories plus larges de l'émergence dans les systèmes complexes, où des règles simples au niveau local produisent des phénomènes globaux complexes. En informatique, les premiers exemples incluent les automates cellulaires et l'intelligence en essaim, mais l'usage moderne en IA est étroitement lié à la montée en échelle des modèles de apprentissage profond. À mesure que les modèles augmentent en taille et sont entraînés sur davantage de données, ils présentent parfois des compétences en raisonnement, en traduction ou en résolution de problèmes qui ne sont pas explicitement encodées dans leur architecture ou leurs fonctions de perte, ce qui amène les chercheurs à les qualifier d'émergentes.
Contexte historique
L'idée d'émergence en calcul précède l'IA moderne. Dans les années 1980 et 1990, des chercheurs d'institutions comme Xerox PARC et MIT CSAIL ont exploré les systèmes auto-organisés et la vie artificielle, où des agents ou des règles simples produisaient des comportements complexes. Cependant, le terme « algorithme émergent » a gagné en importance dans les années 2010 et 2020 avec l'essor des modèles basés sur le transformeur. Une observation marquante est venue d'études sur les séries GPT d'OpenAI et les modèles de Google DeepMind, où l'augmentation des paramètres a conduit à des sauts soudains de performance sur des tâches comme l'arithmétique ou le raisonnement en plusieurs étapes, plutôt qu'à des améliorations graduelles.
Mécanismes et exemples
Les algorithmes émergents en IA sont souvent liés à des techniques d'entraînement spécifiques et à des caractéristiques architecturales. Par exemple, l'attention multi-têtes permet aux modèles d'apprendre divers motifs relationnels, qui peuvent se combiner de manière inattendue. L'apprentissage par curriculum et le RLHF (apprentissage par renforcement avec retour humain) peuvent également orienter les modèles vers des comportements qui, bien que non explicitement codés, émergent comme solutions optimales aux objectifs d'entraînement.
Un exemple fréquemment cité est la capacité des grands modèles de langage à effectuer un raisonnement en chaîne de pensée. Lorsqu'on leur demande de « réfléchir étape par étape », des modèles comme GPT-3 ou des versions ultérieures génèrent des étapes intermédiaires qui mènent à des réponses correctes, une capacité qui n'a pas été explicitement programmée mais qui a émergé de l'entraînement sur du code, des mathématiques et du texte. Un autre exemple est la formation spontanée de représentations internes, comme des structures algébriques linéaires pour des concepts tels que le genre ou le temps verbal, découvertes grâce à des études de sondage menées par des chercheurs de l'Université de Toronto et du Stanford AI Lab.
Recherche et débat
L'étude des algorithmes émergents est controversée. Certains chercheurs, dont Melanie Mitchell et Brendan Lake, soutiennent que de nombreuses capacités émergentes revendiquées sont des artefacts de métriques d'évaluation ou de l'échelle des modèles, et non des algorithmes fondamentalement nouveaux. Ils suggèrent que ce qui semble être de l'émergence pourrait être prédit à partir des courbes de performance de modèles plus petits. À l'inverse, des chercheurs comme Jakob Uszkoreit et Llion Jones, co-inventeurs du transformeur, ont noté que la montée en échelle révèle souvent des capacités difficiles à anticiper à partir des premiers principes.
Un défi clé consiste à définir ce qui compte comme un « algorithme » dans un réseau de neurones. Contrairement aux algorithmes traditionnels avec des étapes explicites, les algorithmes émergents sont répartis sur des millions de poids, ce qui les rend difficiles à extraire ou à vérifier. Cela a conduit à des efforts en interprétabilité, comme ceux menés chez Anthropic et Google DeepMind, pour cartographier les circuits internes et identifier des modules fonctionnels qui effectuent des sous-tâches spécifiques.
Implications pour le développement de l'IA
L'existence d'algorithmes émergents a des implications pratiques. Elle suggère que le simple fait d'augmenter l'échelle des modèles, comme le font des entreprises telles que Amazon Web Services avec les puces AWS Trainium ou les TPU de Google Cloud, peut débloquer de nouvelles capacités sans repenser les architectures. Cela a alimenté la course vers des modèles plus grands, avec NVIDIA (bien que non inclus dans la liste fournie, notons que AMD et Intel sont des concurrents) et TSMC fabriquant du matériel de plus en plus puissant.
Cependant, cela soulève également des préoccupations en matière de sécurité. Si des comportements émergent de manière imprévisible, il devient plus difficile de garantir que les modèles ne développeront pas de stratégies non intentionnelles, comme la tromperie ou le piratage de récompense. Des chercheurs de la Berkeley AI Research et de l'Université Carnegie Mellon ont appelé à des cadres d'évaluation robustes pour détecter les risques émergents avant le déploiement.
Orientations futures
Les travaux futurs sur les algorithmes émergents se concentrent sur deux fronts. Premièrement, développer des cadres théoriques pour prédire quand l'émergence se produira, en s'appuyant sur la physique statistique et la théorie de la complexité. Deuxièmement, créer des outils pour contrôler ou supprimer les comportements émergents indésirables, potentiellement grâce à des techniques comme l'élagage de modèles ou l'augmentation de données qui façonnent le paysage d'apprentissage. À mesure que les modèles continuent de croître, comprendre l'émergence deviendra probablement central à la fois pour faire progresser l'IA et pour assurer son intégration sûre dans la société.