Benjamin Mann est un chercheur en intelligence artificielle, surtout connu comme co-auteur de l'article sur GPT-3. Il a contribué au développement de grands modèles de langage et a travaillé dans des organisations d'IA de premier plan, notamment OpenAI et Anthropic.
La carrière de Mann dans la recherche en IA s'est concentrée sur la montée en échelle des réseaux neuronaux et l'amélioration de leur entraînement et de leur alignement. Son travail a été influent dans le domaine de l'IA générative, en particulier dans le domaine des grands modèles de langage.
Début de carrière et éducation
Les détails sur la vie précoce et l'éducation de Mann ne sont pas largement divulgués. On sait qu'il a travaillé dans la communauté de recherche en IA, mais ses qualifications académiques spécifiques ne sont pas confirmées dans les sources publiques. Sa trajectoire professionnelle est principalement documentée à travers ses contributions de recherche et ses rôles dans les principaux laboratoires d'IA.
Travail chez OpenAI
Mann faisait partie de l'équipe d'OpenAI qui a développé GPT-3, un grand modèle de langage avec 175 milliards de paramètres. L'article « Language Models are Few-Shot Learners » (2020) a répertorié Mann comme co-auteur, soulignant son rôle dans la création du modèle. Chez OpenAI, il a également contribué à d'autres projets liés aux grands modèles de langage et à l'IA générative.
Contributions à la recherche en IA
La recherche de Mann s'est centrée sur les architectures de transformeurs et les réseaux neuronaux, avec un accent sur la montée en échelle et l'efficacité de l'entraînement. Il a travaillé sur des techniques telles que les programmes de taux d'apprentissage et le écrêtage de gradient pour stabiliser l'entraînement de modèles massifs. Son travail a informé le développement de modèles ultérieurs et a été cité dans de nombreuses études sur l'apprentissage profond.
Passage chez Anthropic
Après son mandat chez OpenAI, Mann a rejoint Anthropic, une entreprise de sécurité de l'IA fondée par d'anciens chercheurs d'OpenAI. Chez Anthropic, il a continué à travailler sur l'alignement des systèmes d'IA avec l'intention humaine, contribuant à la recherche sur le RLHF et la sécurité des modèles. Son rôle y souligne son engagement envers un développement responsable de l'IA.
Impact et héritage
Les contributions de Mann à GPT-3 ont eu un impact durable sur le domaine, démontrant les capacités des transformeurs à grande échelle et suscitant un intérêt généralisé pour l'intelligence artificielle. Son travail a influencé à la fois la recherche académique et les applications industrielles, de l'apprentissage automatique au traitement du langage naturel. En 2024, il reste un chercheur actif, et son travail en cours continue de façonner la direction de l'IA.
Références
- Brown, T. B., et al. (2020). « Language Models are Few-Shot Learners. » arXiv preprint arXiv:2005.14165.
- Page de l'équipe OpenAI (archivée).
- Publications de recherche d'Anthropic.