La singularité technologique est un point futur hypothétique à partir duquel la croissance technologique, principalement portée par une intelligence artificielle avancée, devient si rapide et auto-renforçante qu'elle produit une transformation imprévisible et irréversible de la civilisation humaine. Le terme établit une analogie avec la singularité mathématique, un point où les règles normales s'effondrent et où toute prédiction au-delà devient impossible.
Origines de l'idée
Le mathématicien et physicien Stanislaw Ulam, rapportant une conversation des années 1950 avec John von Neumann, décrivait von Neumann évoquant « le progrès technologique sans cesse accéléré » approchant « une singularité essentielle dans l'histoire de la race, au-delà de laquelle les affaires humaines, telles que nous les connaissons, ne pourraient continuer ». Le concept a été considérablement développé par l'informaticien et auteur de science-fiction Vernor Vinge, dont l'essai influent de 1993 « The Coming Technological Singularity » soutenait que la création d'une intelligence surhumaine marquerait un horizon des événements après lequel l'avenir deviendrait fondamentalement inconnaissable pour les humains non augmentés, et prédisait que cela pourrait se produire en quelques décennies.
Kurzweil et la loi des rendements accélérés
Le futurologue Ray Kurzweil a popularisé l'idée auprès d'un public grand public, notamment dans son livre de 2005 « The Singularity Is Near ». Kurzweil soutient que les tendances exponentielles dans l'informatique, la biotechnologie et d'autres domaines, formalisées comme une « loi des rendements accélérés », mèneront à une fusion de l'intelligence humaine et machine, et a prédit à plusieurs reprises que la singularité arriverait vers 2045. Son bilan en matière de prédictions spécifiques a suscité à la fois des éloges pour sa précision directionnelle et des critiques pour les dates manquées et les excès.
Explosion de l'intelligence
Le mécanisme le plus souvent invoqué pour expliquer comment une singularité pourrait se produire est l'« explosion de l'intelligence » décrite par le mathématicien I. J. Good en 1965 et développée plus tard par Nick Bostrom : un système d'IA capable d'améliorer sa propre conception pourrait produire des versions successivement plus performantes dans une boucle de rétroaction qui s'accélère rapidement, aboutissant à une Superintelligence bien au-delà de la compréhension humaine, un scénario que certains considèrent comme un chemin rapide de l'intelligence artificielle générale vers quelque chose de bien au-delà. Ce cadre relie étroitement le concept de singularité aux débats contemporains sur l'risque existentiel lié à l'IA, car un saut soudain et incontrôlé des capacités laisserait peu de temps pour une correction de trajectoire.
Critiques et scepticisme
Les critiques soutiennent que le concept de singularité repose sur une extrapolation discutable de courbes exponentielles qui, en pratique, tendent à suivre des courbes en S avec des rendements décroissants, et que l'« intelligence » n'est pas une quantité scalaire unique qui peut simplement être augmentée indéfiniment. Les contraintes physiques, notamment la disponibilité de l'énergie, la capacité de fabrication des puces et la disponibilité des données, sont citées comme des goulots d'étranglement probables. Des chercheurs comme Yann LeCun et Gary Marcus ont rejeté les scénarios de singularité à court terme comme spéculatifs et insuffisamment fondés sur le fonctionnement réel des systèmes actuels, tout en reconnaissant que les progrès de l'IA restent rapides par rapport aux normes historiques.
Pertinence contemporaine
Bien que la « singularité » en tant qu'événement daté spécifique soit désormais utilisée avec plus de prudence par les chercheurs que par les commentateurs populaires, la question sous-jacente - à savoir si les progrès de l'IA pourraient atteindre un point d'inflexion d'auto-amélioration rapide et difficile à contrôler - continue d'informer la recherche sur la sécurité de l'IA et l'alignement, y compris les débats sur les lois de mise à l'échelle et le rythme des gains de capacités des systèmes modèles de raisonnement utilisant un calcul supplémentaire au moment de l'inférence.