Le débat sur la superintelligence artificielle est une période de discours intense de 2023 à 2025 sur la possibilité et les implications de la création d'une superintelligence - un agent hypothétique dont l'intelligence dépasse de loin celle des esprits humains les plus doués. Le philosophe Nick Bostrom a défini la superintelligence dans son livre de 2014 Superintelligence comme « tout intellect qui dépasse largement les performances cognitives des humains dans pratiquement tous les domaines d'intérêt ». Le débat porte sur la question de savoir si la superintelligence artificielle (SIA) émergera grâce aux progrès continus de l'intelligence artificielle, sur les risques qu'elle pose et sur la manière dont la société devrait réagir. Bien que la superintelligence biologique reste une alternative théorique, la plupart des attentions se concentrent sur la SIA basée sur les machines, stimulée par les progrès rapides des grands modèles de langage et des technologies connexes.
Définir la superintelligence
Le concept de superintelligence repose sur l'idée que l'intelligence n'est pas un plafond fixe mais un spectre. La définition de Bostrom met l'accent sur une supériorité large dans toutes les tâches cognitives, et non seulement sur des références étroites. Cela distingue la SIA des systèmes d'IA spécialisés qui excellent aux échecs ou à la traduction linguistique mais manquent de raisonnement général. Le terme est désormais presque exclusivement utilisé dans les discussions sur l'intelligence artificielle, bien que la superintelligence biologique - obtenue par génie génétique, sélection artificielle ou organisation collective - ait été explorée par des écrivains comme Carl Sagan et Gerald Crabtree.
David Chalmers, philosophe, soutient que l'AGI est une voie très probable vers la SIA. Son argument repose sur trois affirmations : que l'IA peut atteindre une équivalence au niveau humain, qu'elle peut dépasser les performances humaines et qu'elle peut s'amplifier pour dominer des tâches arbitraires. Il note que le cerveau humain est un système mécanique qui a évolué biologiquement, ce qui rend plausible que les ingénieurs puissent le répliquer avec des matériaux synthétiques, peut-être en utilisant des algorithmes évolutionnaires. Une fois que l'IA atteint l'équivalence humaine, de nouvelles technologies peuvent aider à concevoir des améliorations, accélérant ainsi le progrès.
Auto-amélioration récursive et explosion de l'intelligence
Un mécanisme central théorisé pour produire la superintelligence est l'auto-amélioration récursive. Dans ce scénario, un système d'IA améliore itérativement sa propre intelligence, devenant plus efficace pour s'améliorer à chaque cycle. Cette boucle de rétroaction pourrait conduire à une explosion de l'intelligence, où l'IA dépasse rapidement toutes les limites cognitives humaines. Les critiques soutiennent que l'auto-amélioration récursive pourrait atteindre des rendements décroissants, car chaque amélioration nécessite des ressources computationnelles croissantes, mais les partisans notent qu'une IA capable de reconcevoir sa propre architecture pourrait surmonter ces contraintes.
Le matériel informatique offre déjà des avantages par rapport aux cerveaux biologiques. Bostrom souligne que les neurones biologiques fonctionnent à environ 200 Hz, tandis que les microprocesseurs modernes tournent à environ 2 GHz - une différence de sept ordres de grandeur. Les neurones transmettent des signaux à pas plus de 120 m/s, tandis que les cœurs électroniques peuvent communiquer optiquement à la vitesse de la lumière. Ainsi, un esprit humain émulé fonctionnant sur un matériel plus rapide pourrait penser des millions de fois plus vite qu'un humain biologique, dominant dans les tâches nécessitant de la hâte ou de longues séquences d'actions. Les ordinateurs sont également modulaires, permettant à la taille et à la capacité de dépasser les limites physiques des crânes et des colonnes vertébrales, ce qui pourrait permettre une superintelligence collective grâce à des réseaux coordonnés.
Formes de superintelligence artificielle
Une IA superintelligente pourrait prendre plusieurs formes. Une superintelligence de vitesse serait un raisonneur de type humain fonctionnant à des vitesses considérablement accélérées. Une superintelligence de qualité posséderait des capacités cognitives qualitativement supérieures à celles des humains, de manière analogue à la façon dont les humains surpassent les chimpanzés dans la planification à long terme et l'utilisation du langage. Bostrom considère également l'intelligence collective, où un grand nombre de systèmes de raisonnement séparés se coordonnent pour agir comme un agrégat avec des capacités bien supérieures à celles de tout sous-agent. Ces formes ne sont pas mutuellement exclusives ; une future SIA pourrait combiner vitesse, qualité et coordination collective.
Les avantages de la modularité et de la vitesse s'appliquent aux systèmes artificiels mais pas nécessairement aux systèmes biologiques. Les contraintes physiologiques limitent la taille et la vitesse des cerveaux biologiques, rendant la superintelligence biologique moins réalisable. Les écrivains consacrent donc plus d'attention aux scénarios de SIA, bien que certains explorent des alternatives biologiques comme la sélection artificielle ou les nootropiques.
Hypothèses de superintelligence biologique
Bien que le débat se concentre sur l'IA, certains scientifiques ont envisagé des voies biologiques. Carl Sagan a suggéré que les césariennes et la fécondation in vitro pourraient permettre aux humains d'évoluer avec des têtes plus grandes, améliorant l'intelligence par sélection naturelle. À l'inverse, Gerald Crabtree a soutenu que la diminution de la pression de sélection réduit lentement l'intelligence humaine au fil des siècles, sans consensus scientifique sur l'une ou l'autre possibilité. Bostrom discute du diagnostic génétique préimplantatoire pour sélectionner des embryons avec un QI plus élevé, estimant des gains potentiels de 4 points en choisissant un embryon sur deux et jusqu'à 24,3 points pour un sur 1 000, avec une sélection itérative sur plusieurs générations pouvant produire des améliorations d'un ordre de grandeur.
L'intelligence collective pourrait également être construite en réorganisant les sociétés humaines. Certains soutiennent que l'Internet, l'économie ou la civilisation fonctionne comme un cerveau global, avec des capacités dépassant celles des agents individuels. Les marchés prédictifs sont cités comme des exemples d'intelligence collective fonctionnelle, en supposant que des algorithmes ne sont pas utilisés pour informer les décisions. L'amélioration directe par génie génétique ou nootropiques reste spéculative et éthiquement controversée.
Risque existentiel et points de vue des experts
La plupart des experts en IA croient que la création d'une superintelligence artificielle posera un risque existentiel substantiel. Les risques incluent la perte de contrôle humain, les conséquences imprévues de l'optimisation pour des objectifs étroits et la possibilité qu'une SIA poursuive des objectifs en conflit avec le bien-être humain. Une minorité soutient que la superintelligence est trop lointaine pour justifier une préoccupation immédiate, ou que d'autres menaces comme la guerre nucléaire ou les pandémies sont plus pressantes. Cette minorité comprend des chercheurs qui voient l'IA actuelle comme limitée à des tâches étroites, sans voie claire vers l'intelligence générale.
L'inquiétude concernant la SIA a considérablement augmenté. En octobre 2025, des centaines de personnalités publiques, y compris des experts en IA, des lauréats du prix Nobel et des responsables de la sécurité nationale, ont signé une déclaration appelant à une interdiction du développement de la superintelligence. Cela a établi des parallèles avec les interdictions des armes biologiques et des mines antipersonnel. La déclaration a émergé au milieu d'un débat plus large sur la réglementation de l'IA, y compris le California SB 1047 Debate sur les exigences de sécurité au niveau de l'État. Des sondages de 2025 ont révélé que de grandes majorités en Amérique et en Grande-Bretagne s'opposent au développement de la SIA, reflétant un malaise public.
Désaccords sur le calendrier
Le débat inclut des désaccords marqués sur le moment où la SIA pourrait arriver. Les optimistes, souvent associés à OpenAI et à d'autres laboratoires, suggèrent que l'intelligence artificielle générale pourrait émerger dans les décennies à venir, avec une superintelligence peu après. Les pessimistes soutiennent que l'apprentissage automatique actuel, y compris les transformeurs basés sur des grands modèles de langage, manque de la compréhension et du raisonnement nécessaires pour l'intelligence générale, et que les percées sont imprévisibles. Certains experts croient que la superintelligence est à des siècles, rendant les débats actuels prématurés. Cette incertitude sur le calendrier complique la politique, car les réglementations doivent équilibrer les préjudices à court terme avec les risques catastrophiques à long terme.
Efforts de gouvernance internationale
Les propositions pour atténuer le risque de SIA ont inclus un traité international pour empêcher son émergence, similaire aux accords de contrôle des armements. Cependant, aucun cadre contraignant n'a encore été établi. La déclaration d'octobre 2025 a appelé à une interdiction, mais la mise en œuvre d'une telle interdiction fait face à des défis, y compris la vérification et la nature à double usage de la recherche en IA. Certains proposent des normes de sécurité et un développement axé sur la sécurité, comme en témoigne la fondation de laboratoires dédiés à la sauvegarde de la SIA, tels que la société qui a levé plus d'un milliard de dollars en 2024 et 2 milliards de dollars en 2025 auprès d'investisseurs comme NVIDIA et a16z.
Les débats sur la gouvernance abordent également le rôle de l'industrie privée et de la recherche académique. Le Safe Superintelligence's $1 Billion Funding Round (2024) a mis en évidence la volonté des investisseurs de financer des approches de sécurité d'abord, tandis que le California SB 1047 Debate a montré des frictions politiques sur les mesures de sécurité obligatoires. Aucun consensus n'existe sur l'efficacité des engagements volontaires, de la législation nationale ou des traités internationaux.
Conclusion
Le débat sur la superintelligence artificielle de 2023-2025 reflète une anxiété plus large concernant la trajectoire de l'intelligence artificielle. Bien que les définitions et les calendriers restent contestés, le potentiel de changement transformateur - qu'il soit bénéfique ou catastrophique - a suscité un engagement public et expert sans précédent. Les résultats de ces discussions, y compris la déclaration d'interdiction de 2025 et l'opposition publique croissante, façonneront probablement les priorités de recherche futures et les cadres réglementaires. Depuis le début de 2026, l'inquiétude continue de s'intensifier, avec des appels persistants à des mesures de précaution pour garantir que toute superintelligence, si elle est créée, reste alignée sur les valeurs humaines.