Max Tegmark (né en 1967 à Stockholm, en Suède) est un physicien, cosmologiste et professeur au Massachusetts Institute of Technology, connu pour ses recherches sur le multivers et les structures mathématiques sous-jacentes à la réalité physique. Depuis le milieu des années 2010, il est devenu l'une des figures publiques les plus visibles militant pour la prudence dans le développement de l'intelligence artificielle générale, principalement par le biais de l'organisation à but non lucratif qu'il a cofondée et qu'il dirige désormais, le Future of Life Institute (FLI).
Tegmark a cofondé le FLI en 2014 avec plusieurs collègues, dont le cofondateur de Skype, Jaan Tallinn, afin de financer et de coordonner des travaux visant à réduire les risques liés aux technologies transformatrices, avec un fort accent initial sur le risque existentiel lié à l'IA. En 2017, l'institut a organisé la conférence d'Asilomar sur l'IA bénéfique, produisant un ensemble de principes largement cités pour un développement responsable de l'IA, signés par des centaines de chercheurs. Depuis, le FLI est devenu l'une des organisations de plaidoyer les mieux financées, spécifiquement axée sur la sécurité et la gouvernance de l'IA.
Life 3.0 et plaidoyer public
En 2017, Tegmark a publié « Life 3.0 : Être humain à l'ère de l'intelligence artificielle », un livre qui expose une gamme de scénarios sur la manière dont l'IA transformatrice pourrait se dérouler, allant de résultats bénéfiques à des issues catastrophiques, et a popularisé un cadre décrivant « Life 1.0, 2.0 et 3.0 » comme des étapes de l'évolution biologique, culturelle et technologique de l'intelligence. Le livre est devenu un point de référence largement cité dans les discussions publiques sur la superintelligence et a contribué à introduire des concepts issus de la recherche sur la sécurité de l'IA auprès d'un large lectorat général.
Le moment de plaidoyer le plus médiatisé de Tegmark est survenu en mars 2023, lorsque le FLI a publié la lettre ouverte « Pause Giant AI Experiments », connue sous le nom de lettre de pause, appelant les laboratoires d'IA à suspendre l'entraînement de modèles plus puissants que GPT-4 pendant au moins six mois. La lettre, que Tegmark a contribué à organiser et à publiciser, a été signée par des milliers de chercheurs et de technologues, dont Elon Musk et d'autres figures éminentes, et a généré une couverture médiatique grand public significative sur les risques de l'IA, bien que la pause demandée n'ait jamais eu lieu. Depuis, il continue de promouvoir une gouvernance internationale contraignante, en s'engageant dans des initiatives telles que le règlement européen sur l'IA et le processus de la déclaration de Bletchley.
Positions et réception
Tegmark cadre généralement le risque de l'IA en termes de défaillances concrètes de gouvernance à court terme ainsi que de scénarios catastrophiques à plus long terme, se positionnant entre les prédictions plus catégoriques de chercheurs comme Eliezer Yudkowsky et les voix industrielles dominantes favorisant une réglementation plus légère. Les critiques ont soutenu que les campagnes du FLI confondent parfois les risques spéculatifs à long terme avec des préjudices plus immédiats tels que les biais et la désinformation, diluant ainsi l'attention portée à chacun. Les partisans créditent Tegmark d'avoir traduit les préoccupations techniques d'alignement en un langage accessible aux décideurs politiques et au grand public plus tôt et plus efficacement que la plupart des travaux académiques sur la sécurité de l'IA.