La recherche en intelligence artificielle de Tsinghua fait référence au développement et à la recherche en intelligence artificielle menés à l'Université Tsinghua, une université publique de recherche située dans le district de Haidian, à Pékin, en Chine. Affiliée au ministère de l'Éducation, Tsinghua fait partie de la construction de la Double Première Classe et est membre de la Ligue C9. Ses efforts en IA s'étendent à plusieurs départements et instituts, contribuant aux avancées dans intelligence artificielle, apprentissage automatique et apprentissage profond. Le campus de l'université, situé au nord-ouest de Pékin, sur le site des anciens jardins impériaux de la dynastie Qing, abrite 21 écoles et 59 départements, avec des facultés en sciences, ingénierie et autres domaines.
La recherche en IA de Tsinghua a acquis une reconnaissance internationale, en particulier dans des domaines tels que les architectures réseaux de neurones, le développement de grands modèles de langage et les applications de IA générative. L'université a produit des anciens élèves notables en sciences et en ingénierie, notamment le lauréat du prix Nobel Yang Chen-Ning, et ses laboratoires d'IA collaborent avec des entreprises technologiques mondiales et des institutions académiques.
Fondements historiques
L'Université Tsinghua a été fondée en 1911 sous le nom de Tsinghua College, une école préparatoire pour les étudiants chinois souhaitant étudier aux États-Unis, financée par la réduction de l'indemnité des Boxers négociée par le président Theodore Roosevelt. Au fil des décennies, elle a évolué pour devenir une université complète, avec un changement significatif en 1952 lorsqu'elle a été transformée en institut polytechnique axé sur l'ingénierie et les sciences naturelles. Cette orientation en ingénierie a jeté les bases de futures forces en informatique et en IA. Pendant la Révolution culturelle (1966-1976), l'université a été fermée, mais elle a réémergé en 1978, et dans les années 1980, elle a adopté un système multidisciplinaire, réintégrant des écoles comme l'École d'économie et de gestion et l'École des sciences.
Centres et initiatives de recherche en IA
Tsinghua héberge plusieurs entités de recherche dédiées à l'IA, notamment le Département des sciences et technologies de l'informatique et l'Institut pour l'intelligence artificielle. Ces centres se concentrent sur les algorithmes de apprentissage automatique, les modèles de apprentissage profond et la théorie des réseaux de neurones. L'université participe également à des initiatives nationales en IA, telles que le Plan de développement de l'IA de nouvelle génération, et a établi des partenariats avec des leaders industriels comme académie Alibaba Damiao et Alibaba Cloud. Les chercheurs de Tsinghua ont contribué à des projets open source et publié abondamment dans des conférences de premier plan comme NeurIPS et ICML.
Contributions clés à l'IA
Les chercheurs en IA de Tsinghua ont apporté des contributions notables aux architectures transformeur et au développement de grands modèles de langage. Ils ont travaillé sur les mécanismes de encodage positionnel et de attention multi-têtes, améliorant l'efficacité des modèles séquence à séquence. Dans le domaine de la IA générative, Tsinghua a développé des modèles pour la génération de texte et d'images, s'appuyant souvent sur des architectures réseaux résiduels et U-Net. L'université explore également des techniques de élagage de modèles et de augmentation de données pour améliorer les performances des modèles. Ces efforts ont positionné Tsinghua comme un acteur clé dans le paysage mondial de l'IA, comparable à des institutions comme MIT CSAIL et Stanford AI Lab.
Collaborations et liens avec l'industrie
La recherche en IA de Tsinghua collabore avec de grandes entreprises technologiques, notamment AMD, Intel et Qualcomm, pour l'optimisation matérielle des charges de travail en IA. Elle travaille également avec des fournisseurs de cloud comme Amazon Web Services et Azure pour déployer des modèles d'IA à grande échelle. L'université a des laboratoires conjoints avec des chercheurs de Google DeepMind et OpenAI, bien que les détails spécifiques ne soient pas divulgués publiquement. De plus, Tsinghua s'associe à TSMC et Broadcom pour la conception de puces pour accélérateurs d'IA, et avec Samsung Electronics pour des applications d'IA en périphérie. Ces collaborations impliquent souvent du matériel AWS Trainium et Groq pour une inférence efficace.
Programmes éducatifs et impact
Tsinghua propose des programmes de premier cycle et de cycles supérieurs en IA, y compris une majeure dédiée à l'IA et des diplômes interdisciplinaires. Le programme de l'université met l'accent à la fois sur les fondements théoriques et les applications pratiques, avec des cours sur les fonctions de perte, des techniques d'optimisation comme Adam et variantes de SGD, et des stratégies de planification du taux d'apprentissage. Les étudiants s'engagent dans la recherche sur apprentissage par renforcement et apprentissage par curriculum, et l'université a produit des leaders en IA, tels que Mark Chen et Chen Wu, qui ont ensuite travaillé dans les meilleures entreprises d'IA. Le réseau d'anciens élèves de Tsinghua, qui comprend des dirigeants politiques comme Xi Jinping et Hu Jintao, influence également la politique et le financement de l'IA en Chine.
Orientations futures
À l'avenir, la recherche en IA de Tsinghua vise à faire progresser l'intelligence artificielle dans des domaines comme IA explicable et sécurité de l'IA. L'université investit dans la recherche sur les grands modèles de langage, en se concentrant sur mise à l'échelle de température et échantillonnage top-p pour une génération contrôlable. Elle explore également les mécanismes de attention croisée pour les modèles multimodaux. En 2025, Tsinghua continue d'étendre son infrastructure en IA, avec des plans pour établir de nouveaux centres de recherche et augmenter les collaborations internationales. L'engagement de l'université envers l'innovation assure son influence continue dans la communauté mondiale de l'IA.