Les scénarios d'après-coup de l'IA sont des cadres spéculatifs pour la période suivant le développement de l'intelligence artificielle générale (IAG) ou de la Superintelligence, lorsque des machines intelligentes pourraient surpasser les humains dans presque tous les domaines. Ces scénarios explorent les conséquences économiques, sociales et existentielles d'une telle transition, allant de sociétés utopiques d'abondance à des issues dystopiques. Le terme englobe un large débat parmi les chercheurs, les technologues et les philosophes sur ce à quoi pourrait ressembler un monde avec une IA arbitrairement avancée, et si certains futurs constituent un progrès ou une catastrophe.
La discussion repose sur le postulat que la recherche en IA produira éventuellement des machines aussi intelligentes, ou plus intelligentes, que les humains dans tous les domaines pertinents. Les physiciens et les informaticiens notent qu'aucune loi physique n'empêche les particules d'être arrangées pour effectuer des calculs plus avancés que ceux des cerveaux humains, et que les systèmes numériques pourraient fonctionner à des échelles et des vitesses bien au-delà des limites biologiques. Cependant, il n'y a pas de consensus sur le moment où une telle intelligence émergera, et certains dissidents soutiennent que l'humanité pourrait se détruire avant que l'IAG ne soit atteinte. Les scénarios d'après-coup servent donc de cadre pour anticiper et façonner la trajectoire à long terme du développement de l'IA.
Contexte et postulats fondamentaux
La plupart des scientifiques conviennent que la recherche en IA mènera éventuellement à des machines dotées d'une intelligence humaine ou surhumaine dans tous les domaines pertinents. La taille du cerveau humain est contrainte par l'évolution pour passer par le canal de naissance, mais les cerveaux numériques ne connaissent pas une telle limitation, permettant des architectures cognitives beaucoup plus vastes et rapides. Bien que le moment de cette transition soit incertain, de nombreux chercheurs soutiennent que l'introduction d'une deuxième espèce intelligente aura des implications profondes pour la civilisation.
Tous les scénarios d'après-coup de l'IA dépendent de deux thèses entrelacées. Premièrement, la croissance économique se poursuivra jusqu'à atteindre une économie d'abondance, capable de fournir un niveau de vie confortable pour la population mondiale sans exiger que la plupart des gens travaillent. Cette croissance pourrait provenir de tendances existantes ou de percées dans la robotique, les nanotechnologies et l'IA avancée. Deuxièmement, les progrès de l'IA rendront le travail humain économiquement inutile, car les robots deviendront moins chers, plus personnalisables et plus capables que les travailleurs humains. Ces postulats sous-tendent à la fois les visions optimistes et pessimistes de l'avenir.
Dotation cosmique et limites à la croissance
L'univers accessible est délimité par un horizon cosmologique d'environ 16 milliards d'années-lumière, et certains physiciens estiment que la civilisation extraterrestre la plus proche pourrait se situer au-delà de cette distance. Dans un scénario d'expansion optimiste, l'humanité pourrait coloniser une fraction significative de l'univers accessible, augmentant la biosphère d'environ 32 ordres de grandeur. Cependant, les tendances démographiques à long terme compliquent ce tableau : bien que les sociétés plus riches aient connu des taux de natalité plus faibles, les corrélations intergénérationnelles de fertilité pourraient éventuellement conduire à une croissance démographique en l'absence de contrôle des naissances ou de crises malthusiennes.
Scénarios libertariens
Les scénarios libertariens d'après-coup envisagent une coexistence pacifique de machines intelligentes, d'humains téléchargés, de cyborgs et d'humains non améliorés dans un cadre de droits de propriété forts. Comme la productivité industrielle ne dépend plus du travail humain rare, la valeur des terres augmente considérablement par rapport aux biens. Même les humains « luddites » qui possèdent des terres pourraient les louer à des robots plus productifs en échange d'une rente perpétuelle, couvrant tous les besoins financiers de base indéfiniment. Ces individus pourraient vivre aussi longtemps qu'ils le souhaitent, poursuivant le plaisir ou l'auto-actualisation sans souci financier, et les technologies avancées pourraient permettre des modes entièrement nouveaux de pensée et d'expérience, y compris des « gradients de félicité ».
Des partisans comme Ray Kurzweil présentent cela comme une entreprise essentiellement spirituelle, où l'évolution progresse vers une plus grande complexité, connaissance et amour, s'approchant d'un idéal semblable à Dieu sans jamais l'atteindre. Cependant, ces scénarios décentralisés peuvent être instables. Les entités superintelligentes les plus avides pourraient avoir à la fois les moyens et le motif d'usurper les propriétés des humains non améliorés, même avec des mécanismes juridiques incassables. La souffrance pourrait devenir répandue si des êtres sensibles sans propriété meurent, et aucun mécanisme n'empêche la reproduction jusqu'aux limites des ressources héritables, conduisant à des descendants luttant pour une subsistance minimale. Une illustration frappante décrit un tapis roulant de l'existence où la mort est programmée des décennies à l'avance, soulignant le potentiel de misère profonde.
Scénarios communistes
Les scénarios communistes d'après-coup, également associés à Kurzweil, postulent que la technologie avancée réalisera les objectifs du communisme au 21e siècle. L'intersection de l'automatisation à faible coût et de l'énergie abondante pourrait éliminer la rareté, permettant une propriété communale de la production et de la distribution. Dans cette vision, les moyens de production sont contrôlés collectivement, et l'économie d'abondance garantit que tous les besoins sont satisfaits sans distinctions de classe. Cependant, les critiques se demandent si de tels systèmes peuvent éviter l'inefficacité bureaucratique ou la concentration du pouvoir, et si la transition serait pacifique ou violente.
Économie d'abondance et économie post-travail
Un thème central dans tous les scénarios est l'émergence d'une économie d'abondance et post-travail. Si les machines intelligentes peuvent produire des biens et des services sans apport humain, le lien traditionnel entre travail et revenu se dissout. Cela pourrait conduire à un revenu de base universel, à des économies basées sur les ressources, ou à de nouvelles formes d'organisation sociale. La désirabilité d'un tel monde est débattue : certains y voient une libération de la peine, tandis que d'autres avertissent d'un manque de sens, d'inégalités ou d'une perte d'agence humaine. Le rôle des grands modèles de langage et de l'IA générative dans l'automatisation du travail cognitif est un précurseur actuel de ces changements plus larges.
Risques et menaces existentielles
Les scénarios d'après-coup de l'IA abordent également les risques existentiels. Un système superintelligent, s'il est mal aligné avec les valeurs humaines, pourrait causer des dommages catastrophiques, que ce soit par action délibérée ou par conséquences imprévues. Des chercheurs comme Nick Bostrom ont souligné l'importance de l'alignement, tandis que d'autres soutiennent que la course au développement de l'IAG pourrait conduire à des pratiques dangereuses. La possibilité d'une explosion d'intelligence, où l'amélioration récursive dépasse rapidement le contrôle humain, est une préoccupation clé. De plus, la concentration des capacités d'IA dans quelques entreprises ou gouvernements pourrait exacerber les déséquilibres de pouvoir, conduisant à des issues dystopiques.
Perspectives utopiques et dystopiques
Le débat sur la question de savoir si les scénarios d'après-coup de l'IA sont utopiques ou dystopiques reste non résolu. Les optimistes soulignent l'élimination de la pauvreté, de la maladie et de la corvée, ainsi que l'expansion du potentiel humain. Les pessimistes mettent en avant les risques de surveillance, d'armes autonomes et de marginalisation des humains non améliorés. Certains proposent que le résultat dépend de choix délibérés dans la gouvernance de l'IA, la recherche sur la sécurité et la conception éthique. L'implication de grands laboratoires d'IA comme OpenAI, Anthropic et Google DeepMind dans la recherche sur la sécurité reflète cette préoccupation, bien que leurs approches diffèrent.
Conclusion
Les scénarios d'après-coup de l'IA ne sont pas des prédictions mais des cadres pour réfléchir aux conséquences à long terme de l'IA avancée. Ils forcent à considérer des questions économiques, politiques et existentielles souvent ignorées dans le développement à court terme. Bien que l'avenir reste incertain, les scénarios soulignent la nécessité d'une gouvernance proactive et d'une réflexion éthique. Au début des années 2020, aucune IAG n'a été atteinte, et le calendrier reste spéculatif, mais le débat continue de façonner la recherche et les politiques en matière d'IA.