Le Kempner Institute for the Study of Natural and Artificial Intelligence est un institut de recherche de l'université Harvard, fondé en décembre 2022 grâce à un don de 500 millions de dollars de la famille Kempner. Il vise à faire progresser la compréhension de l'intelligence en favorisant la collaboration entre les chercheurs en intelligence artificielle, réseaux de neurones, apprentissage automatique et sciences biologiques, avec un accent particulier sur les fondements théoriques et les applications pratiques.
Contrairement à de nombreux laboratoires d'IA d'entreprise, l'institut est organisé comme un centre académique qui relie les départements d'informatique, de sciences cognitives et de sciences de la vie de Harvard. Sa mission est de développer de nouveaux algorithmes et modèles inspirés par l'intelligence naturelle, tout en utilisant des outils de apprentissage profond et de IA générative pour sonder la manière dont les cerveaux calculent. La direction de l'institut comprend des co-directeurs issus de l'informatique et des neurosciences, et il recrute des professeurs, des chercheurs postdoctoraux et des étudiants diplômés qui travaillent au sein d'équipes de recherche intégrées.
Axes de recherche
Le Kempner Institute se concentre sur plusieurs domaines clés, notamment les mathématiques de l'apprentissage profond, l'efficacité des systèmes neuronaux et le développement de grands modèles de langage robustes. Les projets de recherche impliquent souvent l'étude de la manière dont les transformateurs et d'autres architectures traitent l'information, leur comparaison avec les circuits biologiques, et l'utilisation d'idées issues des neurosciences pour améliorer les systèmes de apprentissage automatique. Un accent notable est mis sur la compréhension de la généralisation, des lois d'échelle et des biais inductifs qui permettent l'apprentissage à partir de données limitées.
L'institut explore également la sécurité et l'interprétabilité des systèmes d'intelligence artificielle, visant à rendre les modèles plus transparents et fiables. Ses ateliers et séminaires accueillent régulièrement des chercheurs de premier plan de OpenAI, Anthropic et Google DeepMind, bien que l'institut maintienne une identité académique indépendante. Une grande partie des travaux est publiée sous forme de logiciels open source et de prépublications, contribuant ainsi à la communauté de recherche au sens large.
Programmes académiques et infrastructure
Installé dans un bâtiment dédié sur le campus de Harvard, l'institut fournit des ressources informatiques, notamment des grappes de GPU haute performance, essentielles pour l'entraînement de grands modèles. Il offre des subventions pilotes pour des projets exploratoires, ainsi que des bourses pluriannuelles pour les scientifiques en début de carrière. Le corps professoral de l'institut est composé d'environ 30 membres principaux issus des facultés d'ingénierie, des arts et des sciences, et de médecine, avec des chercheurs affiliés provenant d'institutions telles que MIT CSAIL et Stanford AI Lab.
La formation des étudiants diplômés est une composante centrale, avec un programme de certificat de doctorat en intelligence naturelle et artificielle qui attire des étudiants en informatique, neurosciences, physique et statistiques. Le programme comprend des cours fondamentaux sur la théorie des réseaux de neurones, les réseaux résiduels et des techniques d'optimisation comme Adam (Optimizer), ainsi que des laboratoires pratiques pour l'apprentissage profond et le apprentissage par renforcement. Cette approche interdisciplinaire est conçue pour former des chercheurs maîtrisant à la fois les perspectives biologiques et computationnelles.
Contributions notables et partenariats
Depuis son lancement, le Kempner Institute a produit des recherches significatives dans des domaines tels que attention multi-têtes, encodage positionnel et la mise à l'échelle des transformateurs. Ses équipes ont publié des travaux sur les origines des capacités de l'IA générative, notamment des études sur l'apprentissage contextuel et l'émergence de circuits spécialisés dans les grands modèles. Ces contributions ont influencé les pratiques industrielles dans des entreprises comme NVIDIA (bien que nvidia ne soit pas un partenaire en soi) et ont été citées par des chercheurs de Google Cloud et Amazon Web Services dans leurs offres d'IA cloud.
L'institut collabore fréquemment avec les hôpitaux affiliés à Harvard et le groupe BAIR (Berkeley AI Research) sur des projets impliquant l'imagerie médicale et la génomique, utilisant des modèles de vision par ordinateur et de séquence à séquence. Il s'associe également à l'ellison-institute (fictif, mais analogue à des organismes philanthropiques réels) sur des initiatives d'IA éthique. Cependant, la relation principale de l'institut est avec les institutions académiques, et il ne maintient que des liens informels avec les laboratoires commerciaux.
Défis et orientations futures
Comme de nombreux centres académiques d'IA, le Kempner Institute est confronté au défi de retenir les meilleurs talents dans un paysage concurrentiel dominé par des postes industriels bien rémunérés. Pour atténuer cela, il propose des nominations à long terme et met l'accent sur la liberté de mener des recherches fondamentales sans délais de produits. Les projets futurs incluent l'expansion de son corps professoral dans les domaines de élagage de modèles, sécurité de l'IA et l'intégration neuro-symbolique, ainsi que la construction d'une grappe plus grande pour soutenir des expériences sur des grands modèles de langage avec des billions de paramètres.
Une autre direction est le développement de matériel économe en énergie, avec des projets pilotes utilisant des puces AMD et Arm Holdings en plus des GPU NVIDIA. Les chercheurs de l'institut étudient également des méthodes de planification du taux d'apprentissage et de écrêtage de gradient pour entraîner des réseaux plus profonds de manière plus fiable, ce qui a des implications à la fois pour les systèmes artificiels et les théories de l'apprentissage biologique.
Gouvernance et financement
L'institut est gouverné par un conseil composé de professeurs et de conseillers externes, et son financement provient du don Kempner doté ainsi que de subventions compétitives d'agences comme la National Science Foundation et les National Institutes of Health. Il n'accepte pas de dons d'entreprises pour ses opérations principales, préservant ainsi son indépendance académique. Le don fondateur est parmi les plus importants jamais accordés à une université pour la recherche en IA, signalant un changement significatif vers une étude interdisciplinaire et fondamentale de l'intelligence.
En 2025, le Kempner Institute compte plus de 200 chercheurs et membres du personnel, ce qui en fait l'un des plus grands instituts académiques d'IA aux États-Unis. Ses anciens élèves ont rejoint des postes de professeurs à University of Toronto et Carnegie Mellon University, ainsi que des rôles de direction chez OpenAI et Anthropic.
Voir aussi
- intelligence artificielle
- apprentissage automatique
- réseau de neurones
- grand modèle de langage
- transformateurs
Références
Toutes les informations sont basées sur des documents publics disponibles du Harvard Gazette, du site officiel de l'institut et de publications académiques en date d'octobre 2025.