Lilian Weng est une informaticienne et vice-présidente de l'intelligence artificielle chez OpenAI, une entreprise de premier plan dans la recherche et le déploiement de l'intelligence artificielle. Elle est largement reconnue pour son blog technique influent, qui couvre des sujets allant de l'apprentissage profond et des réseaux de neurones à la sécurité de l'IA et aux grands modèles de langage. Le travail de Weng a contribué de manière significative à la compréhension pratique et au développement des systèmes modernes d'apprentissage automatique.
Née à Taïwan, Weng a déménagé aux États-Unis pour ses études supérieures. Elle a obtenu une licence en physique à l'Université Carnegie Mellon à Pittsburgh, avant d'y poursuivre un doctorat en physique. Ses recherches doctorales portaient sur la physique computationnelle et les systèmes complexes, ce qui lui a fourni une base solide en modélisation quantitative et en analyse de données, des compétences qui se sont révélées précieuses dans sa carrière ultérieure en IA.
Début de carrière et transition vers l'IA
Après avoir terminé son doctorat, Weng a travaillé comme chercheuse en physique dans des institutions telles que les Laboratoires Nokia Bell et le Centre de recherche atomique Bhabha. Son intérêt pour l'apprentissage automatique s'est développé durant cette période, ce qui l'a amenée à se tourner vers l'intelligence artificielle. En 2011, elle a rejoint Apple en tant qu'ingénieure logicielle, où elle a travaillé sur des systèmes d'apprentissage automatique pendant plusieurs années. Son passage chez Apple a affiné ses compétences en IA appliquée, notamment dans les domaines de la modélisation prédictive et de la personnalisation utilisateur.
Chez Apple, Weng a également commencé à rédiger des articles de blog sur l'apprentissage automatique, initialement pour consolider sa propre compréhension. En 2016, elle a lancé son blog personnel, "Lilian Weng's Blog", qui est devenu l'une des ressources les plus populaires et les plus respectées dans le domaine de l'IA.
Passage à OpenAI et ascension vers la vice-présidence
En 2018, Weng a rejoint OpenAI, alors une organisation à but non lucratif à ses débuts. Elle y a commencé comme chercheuse en IA, se concentrant sur l'apprentissage par renforcement et l'interprétabilité des modèles. Elle s'est rapidement distinguée par son expertise technique approfondie et sa capacité à communiquer des concepts complexes avec clarté.
Au fil des années, Weng a vu ses responsabilités s'accroître chez OpenAI. Elle est passée du statut de chercheuse à celui de responsable de recherche, puis de directrice, dirigeant des équipes travaillant sur la recherche appliquée en IA, l'alignement et la sécurité. En 2023, elle a été promue vice-présidente de l'IA, où elle supervise un large portefeuille comprenant le développement et la sécurité des grands modèles de langage et des systèmes d'IA générative comme GPT. Son leadership a joué un rôle déterminant dans l'orientation de la recherche d'OpenAI, en veillant à ce que ses modèles soient à la fois puissants et alignés sur les valeurs humaines.
Le blog : une ressource de référence
Le blog personnel de Weng, disponible en ligne, est devenu une ressource incontournable pour les praticiens et les chercheurs en IA. Sa devise, "En route vers l'AGI (Intelligence Artificielle Générale)", reflète sa vision à long terme. Ses articles sont réputés pour leur profondeur, leur rigueur et leur clarté, synthétisant souvent des travaux de recherche issus de sources comme arXiv et des conférences telles que NeurIPS, en explications détaillées mais accessibles. Parmi ses articles les plus cités figurent ceux sur les mécanismes d'attention, les architectures de transformeurs, l'apprentissage par renforcement à partir de retour humain (RLHF) et l'évaluation des modèles de langage.
Le blog est salué pour sa structure bien organisée et sa capacité à expliquer des concepts complexes sans les simplifier à outrance. De nombreux praticiens du domaine lui attribuent le mérite de les avoir aidés à se mettre à niveau sur les concepts fondamentaux ou à rester informés des dernières avancées. Weng consacre généralement plusieurs semaines à chaque article, lisant des dizaines de documents de recherche pour garantir l'exactitude et l'exhaustivité de son contenu.
Contributions techniques et sécurité de l'IA
Au-delà de son blog, Weng a apporté des contributions techniques tangibles au domaine de l'IA. Chez OpenAI, elle a travaillé sur des projets liés à l'interprétabilité et à la sécurité des réseaux de neurones, y compris des techniques pour comprendre ce que les modèles ont appris et comment orienter leur comportement. Son équipe a développé des méthodes pour identifier et atténuer les biais nuisibles, améliorer la robustesse des modèles et garantir que ceux-ci s'alignent sur les intentions des utilisateurs.
En 2023, Weng a co-écrit un article sur la "Visualisation des transformeurs" qui a introduit des outils interactifs pour comprendre les représentations internes des modèles de langage. Ce travail s'appuie sur son plaidoyer en faveur de l'interprétabilité comme composante essentielle de la sécurité de l'IA. Elle a également participé au développement de ChatGPT et de GPT-4, contribuant aux cadres de sécurité et d'évaluation utilisés lors de leur formation et de leur déploiement.
Weng est particulièrement connue pour son plaidoyer en faveur d'une approche de la sécurité de l'IA fondée sur la conception. Elle soutient que la sécurité ne doit pas être une réflexion après coup, mais être intégrée à chaque étape du développement des modèles, de la collecte des données au déploiement. Ses opinions sont largement partagées dans l'industrie, et elle intervient fréquemment lors de grandes conférences et événements sur ces sujets.
Reconnaissance publique et influence
L'influence de Weng s'étend bien au-delà de son rôle chez OpenAI. Elle a été nommée parmi les "100 personnes les plus influentes dans l'IA" par plusieurs publications et possède une forte présence sur les réseaux sociaux, avec un large public sur Twitter et LinkedIn. Ses articles de blog sont fréquemment cités dans des publications académiques et des analyses industrielles, et elle est souvent invitée à prononcer des discours principaux lors de conférences telles que NeurIPS, ICML et la conférence Rework sur l'IA.
Son engagement en faveur d'une éducation accessible a inspiré une nouvelle génération de chercheurs en IA. De nombreux étudiants en doctorat et professionnels citent son blog comme une ressource d'apprentissage primaire, et ses tutoriels sont utilisés dans des cours universitaires et des programmes d'intégration en entreprise. Grâce à ses écrits et ses prises de parole, elle a contribué à démystifier l'IA pour un public plus large.
Approche personnelle et philosophie
Weng est connue pour son approche méticuleuse et systématique de la compréhension de l'IA. Dans ses interviews et ses articles, elle souligne l'importance de raisonner à partir des premiers principes et d'une solide base mathématique. Elle conseille souvent aux chercheurs en herbe de maîtriser les fondamentaux, comme l'algèbre linéaire et les probabilités, avant de se plonger dans des cadres plus avancés.
Au-delà de ses compétences techniques, Weng incarne une culture de la curiosité et de la transparence. Elle publie régulièrement des notes détaillées sur les articles qu'elle lit et encourage les chercheurs juniors à partager ouvertement leur travail. Son style d'écriture est direct, privilégiant la clarté au jargon, ce qui rend ses explications accessibles aussi bien aux débutants qu'aux experts.
Weng est également active dans les efforts de mentorat et de diversité dans le secteur technologique. Elle a évoqué publiquement ses propres expériences en tant que femme dans un domaine dominé par les hommes et s'efforce de créer des environnements plus inclusifs chez OpenAI. Elle a personnellement encadré plusieurs jeunes chercheurs qui ont ensuite apporté des contributions significatives à l'IA.
Rôle actuel et perspectives d'avenir
En 2024, Weng continue d'exercer ses fonctions de vice-présidente de l'IA chez OpenAI. Dans ce rôle, elle dirige une équipe couvrant la recherche appliquée, l'évaluation de la sécurité et la coordination des politiques. Elle est profondément impliquée dans le développement de la prochaine génération de modèles, comme GPT-5 et au-delà, en mettant l'accent sur la garantie qu'ils soient sûrs, utiles et alignés sur les intentions humaines.
Son programme de travail est de plus en plus centré sur l'avancement de la recherche en sécurité de l'IA à grande échelle. Elle insiste publiquement sur la nécessité de développer de nouvelles méthodes pour évaluer et contrôler des modèles toujours plus puissants, en particulier à mesure qu'ils se rapprochent de l'intelligence artificielle générale (AGI). Elle est également une fervente partisane de la collaboration entre l'industrie, le monde académique et la société civile pour faire face aux risques mondiaux associés à l'IA avancée.
Son blog reste un travail en constante évolution, avec de nouveaux articles sur des sujets tels que l'apprentissage multimodal, les systèmes agentiques et les techniques de sécurité émergentes. Elle a laissé entendre qu'elle prévoyait d'écrire davantage sur la gouvernance de l'IA et les impacts sociétaux à long terme. La position unique de Weng, à la fois dirigeante au sein de l'un des laboratoires d'IA les plus influents et éducatrice publique prolifique, fait d'elle une voix essentielle dans la définition de l'avenir du domaine.
Vie personnelle et reconnaissance
Weng est connue pour être une personne réservée, mais son travail et ses écrits publics lui ont valu de nombreuses distinctions. Elle a été présentée dans des interviews par de grandes publications technologiques et a participé à des panels avec d'autres figures notables comme Ilya Sutskever et Demis Hassabis. Son blog a reçu des prix de la part des communautés en ligne spécialisées dans l'IA, et elle contribue fréquemment aux discussions open-source sur le sujet.
Sa carrière constitue un modèle pour les scientifiques qui passent de la physique fondamentale à la technologie appliquée. Elle attribue à sa formation en physique une base solide en pensée rigoureuse et en résolution de problèmes complexes. Weng est également conférencière invitée ou chargée de cours dans plusieurs universités, notamment au Laboratoire d'IA de Stanford, où elle intervient occasionnellement sur ses travaux.
L'impact de Weng ne se limite pas à son code et à ses publications : elle a éduqué et inspiré des milliers de chercheurs. Alors que l'IA continue d'évoluer, ses contributions à la sécurité, à la transparence et à la diffusion des connaissances resteront probablement influentes pendant de nombreuses années.