Brenden Lake est professeur associé de psychologie et de science des données à l'Université de New York, où il dirige le laboratoire d'apprentissage humain et machine. Ses recherches se situent à l'intersection de l'intelligence artificielle, de l'apprentissage automatique et des sciences cognitives, visant à comprendre et à reproduire l'efficacité remarquable avec laquelle les humains apprennent et généralisent à partir d'exemples épars. Lake est surtout connu pour ses travaux sur l'apprentissage de concepts au niveau humain, en particulier le développement de modèles capables d'apprendre à partir d'un seul exemple, une capacité qui contraste fortement avec la nature gourmande en données de la plupart des systèmes modernes de apprentissage profond.
La trajectoire académique de Lake a été définie par un engagement à intégrer des modèles computationnels à des expériences comportementales. Il a obtenu son doctorat en neurosciences computationnelles au Massachusetts Institute of Technology, où il a été encadré par Joshua Tenenbaum, une figure de proue des sciences cognitives computationnelles. Cette base a façonné sa perspective selon laquelle les progrès en IA nécessitent non seulement de mettre à l'échelle les modèles, mais aussi de comprendre les principes sous-jacents de la cognition humaine.
Début de carrière et parcours académique
Né aux États-Unis, Lake a poursuivi ses études de premier cycle à l'Université de Californie à Berkeley, où il a obtenu un diplôme en sciences cognitives. Son intérêt pour l'intersection de la psychologie et de l'informatique l'a conduit au MIT, où il a obtenu son doctorat en 2014. Sa thèse de doctorat portait sur l'apprentissage de concepts à partir de peu d'exemples, un thème qui deviendrait central dans ses recherches ultérieures.
Après avoir terminé son doctorat, Lake a effectué des recherches postdoctorales au MIT avant de rejoindre le corps professoral de l'Université de New York en 2017. À NYU, il occupe des postes à la fois au département de psychologie et au centre de science des données, reflétant son approche interdisciplinaire. Son laboratoire est devenu un pôle pour les chercheurs intéressés à construire des systèmes d'IA qui apprennent et raisonnent comme les humains.
Apprentissage de concepts au niveau humain
L'une des contributions les plus significatives de Lake est le développement de modèles computationnels capables d'apprendre de nouveaux concepts à partir d'un seul exemple. Dans un article marquant de 2015 publié dans Science, Lake et ses collègues ont introduit un modèle appelé apprentissage de programmes bayésiens (BPL). Ce modèle pouvait apprendre à reconnaître et à générer des caractères manuscrits novateurs après avoir vu un seul exemple, atteignant des performances comparables à celles des apprenants humains.
Le BPL fonctionne en décomposant un concept visuel en un programme probabiliste - une représentation structurée qui capture les traits sous-jacents et leurs relations. Cette approche contraste avec les modèles de réseaux de neurones qui dominaient le domaine à l'époque, lesquels nécessitent généralement des milliers d'exemples pour atteindre une précision similaire. Les travaux de Lake ont démontré que des représentations structurées et compositionnelles pouvaient permettre un apprentissage bien plus efficace.
Cette recherche a eu un impact durable sur le domaine, inspirant des travaux ultérieurs sur l'apprentissage en quelques exemples et le méta-apprentissage. Elle a également souligné l'importance d'incorporer des biais inductifs qui reflètent les priorités cognitives humaines, comme la tendance à décomposer des objets complexes en parties plus simples.
Le corpus d'abstraction et de raisonnement
En 2019, Lake et son collègue François Chollet ont introduit le corpus d'abstraction et de raisonnement (ARC), un banc d'essai conçu pour mesurer l'intelligence fluide générale dans les systèmes d'IA. L'ARC se compose de tâches de raisonnement visuel qui exigent la capacité d'inférer des schémas abstraits et de les appliquer à des situations nouvelles. Contrairement à de nombreux bancs d'essai standard, les tâches de l'ARC sont conçues pour être faciles pour les humains mais difficiles pour les machines, car elles nécessitent des connaissances fondamentales sur l'objectivité, les relations spatiales et les transformations.
L'ARC est devenu un outil d'évaluation largement utilisé dans la communauté de l'IA, stimulant la recherche sur la généralisation systématique et le raisonnement hors distribution. Lake a soutenu que les grands modèles de langage et les architectures basées sur les transformeurs actuels, malgré leur échelle impressionnante, échouent souvent sur les tâches de l'ARC parce qu'ils manquent des capacités de raisonnement compositionnel et causal que possèdent les humains. Ces travaux ont positionné Lake comme un critique éminent de l'idée que la mise à l'échelle seule mènera à une IA de niveau humain.
Généralisation systématique et compositionnalité
Un thème récurrent dans les recherches de Lake est l'importance de la généralisation systématique - la capacité de comprendre et de générer des combinaisons nouvelles de concepts connus. Dans un article de 2019 publié dans Science, Lake et ses collègues ont démontré que les réseaux de neurones standard échouent souvent à généraliser systématiquement lorsqu'ils sont testés sur de nouvelles combinaisons de mots et de significations. Par exemple, un modèle entraîné à comprendre l'expression « sauter deux fois » et « tourner à gauche » pourrait échouer à comprendre « sauter à gauche » ou « tourner deux fois ».
Ces travaux ont mis en évidence une limitation fondamentale de nombreuses approches de apprentissage profond et ont plaidé pour la nécessité d'incorporer des biais inductifs compositionnels. Lake a exploré diverses méthodes pour y remédier, notamment des techniques de méta-apprentissage qui entraînent des modèles à apprendre rapidement de nouvelles tâches, et des architectures hybrides qui combinent des réseaux de neurones avec un raisonnement symbolique. Ses recherches suggèrent qu'atteindre une IA de niveau humain nécessitera une synthèse des approches connexionnistes et symboliques.
Intégration des sciences cognitives et de l'IA
Lake est un fervent défenseur de l'idée que la recherche en IA devrait être informée par les sciences cognitives. Il a soutenu que l'étude de la manière dont les humains apprennent, raisonnent et généralisent peut fournir des informations précieuses pour construire des systèmes d'IA plus robustes et plus efficaces. Cette perspective se reflète dans ses collaborations avec des psychologues et des neuroscientifiques, ainsi que dans son implication dans des initiatives qui relient les deux domaines.
Dans un article largement cité de 2017 intitulé « Building Machines That Learn and Think Like People », Lake et ses co-auteurs ont esquissé une feuille de route pour la recherche en IA basée sur des principes cognitifs. Ils ont proposé que les futurs systèmes d'IA devraient être capables d'apprendre à partir de peu d'exemples, de raisonner de manière causale et d'utiliser la physique et la psychologie intuitives. Cet article a influencé les discussions sur les limites des approches actuelles et le potentiel d'une IA plus humaine.
Travaux récents et orientations futures
Ces dernières années, Lake a étendu ses recherches pour explorer les capacités et les limites des modèles de IA générative. Il a étudié si les grands modèles de langage peuvent présenter une généralisation systématique lorsqu'ils sont correctement sollicités, et s'ils peuvent apprendre de nouveaux concepts à partir d'exemples minimaux. Ses résultats sont mitigés, suggérant que bien que ces modèles soient puissants, ils manquent encore de certains aspects fondamentaux de la cognition humaine.
Lake a également participé à des efforts pour développer de nouveaux bancs d'essai et méthodes d'évaluation qui capturent mieux l'intelligence de type humain. Il a plaidé pour l'importance de tester les systèmes d'IA sur des tâches qui exigent un apprentissage actif, un raisonnement causal et la capacité de s'adapter à des environnements nouveaux. Ses travaux en cours visent à construire des modèles qui non seulement performent bien sur des tâches spécifiques, mais présentent également la flexibilité et la robustesse de la cognition humaine.
Impact et reconnaissance
Les recherches de Lake ont été largement reconnues pour leur originalité et leur influence. Il a reçu plusieurs prix, notamment le prix CAREER de la National Science Foundation et la bourse de recherche Sloan. Ses articles ont été publiés dans des revues de premier plan telles que Science et Nature Human Behaviour, et il est un conférencier invité fréquent lors des grandes conférences sur l'IA et les sciences cognitives.
Au-delà du monde académique, les idées de Lake ont influencé les discussions dans l'industrie de l'IA sur l'avenir du domaine. Ses critiques des approches basées sur la mise à l'échelle ont incité des chercheurs d'entreprises comme OpenAI et Google DeepMind à envisager des architectures et des paradigmes d'entraînement alternatifs. Il a également contribué au discours public sur la sécurité de l'IA et l'importance de construire des systèmes alignés sur les valeurs humaines.
Enseignement et mentorat
À NYU, Lake enseigne des cours sur l'apprentissage automatique et les sciences cognitives, encadrant une nouvelle génération de chercheurs intéressés par l'intersection de ces domaines. Ses étudiants ont poursuivi des carrières dans le monde académique et l'industrie, continuant à repousser les limites de la recherche sur l'IA de niveau humain. Lake est connu pour son approche collaborative et ouverte d'esprit, encourageant la pensée interdisciplinaire et l'expérimentation rigoureuse.
La vision de Lake pour l'IA est celle où les machines ne sont pas seulement des outils mais des partenaires qui peuvent apprendre et raisonner aux côtés des humains. Ses travaux défient le domaine d'aller au-delà des bancs d'essai étroits et vers une compréhension plus profonde de l'intelligence elle-même. Alors que l'IA continue de progresser, les contributions de Lake resteront probablement centrales dans la quête de machines qui pensent et apprennent vraiment comme les gens.
Publications sélectionnées
Lake a écrit de nombreux articles influents, notamment :
- « Human-level concept learning through probabilistic program induction » (2015, Science)
- « Building machines that learn and think like people » (2017, Behavioral and Brain Sciences)
- « Generalization without systematicity: On the compositional skills of sequence-to-sequence recurrent networks » (2018, ICML)
- « The Abstraction and Reasoning Corpus » (2019, arXiv)
- « Systematic generalization: What is required and can it be learned? » (2019, Science)
Ces travaux ont collectivement façonné le programme de recherche pour une IA de niveau humain, inspirant des efforts académiques et industriels pour construire des systèmes plus capables et plus humains.
Conclusion
Brenden Lake se distingue comme une figure de proue dans l'effort de créer une IA qui reflète l'apprentissage et le raisonnement humains. Son approche interdisciplinaire, combinant les sciences cognitives et l'apprentissage automatique, a produit des idées fondamentales sur la manière dont les machines peuvent apprendre à partir de peu d'exemples et généraliser systématiquement. Bien que l'objectif d'une IA de niveau humain reste lointain, les recherches de Lake fournissent une voie princière, soulignant l'importance de la structure, de la compositionnalité et du réalisme cognitif. Ses travaux continueront d'influencer le domaine pendant des années, alors que les chercheurs affrontent le défi de construire des machines qui comprennent vraiment le monde.