Die technologische Singularität ist ein hypothetischer zukünftiger Punkt, an dem technologisches Wachstum, das hauptsächlich durch fortgeschrittene künstliche Intelligenz angetrieben wird, so schnell und selbstverstärkend wird, dass es eine unvorhersehbare und irreversible Transformation der menschlichen Zivilisation erzeugt. Der Begriff zieht eine Analogie zur mathematischen Singularität, einem Punkt, an dem normale Regeln zusammenbrechen und eine Vorhersage darüber hinaus unmöglich wird.
Ursprünge der Idee
Der Mathematiker und Physiker Stanislaw Ulam beschrieb in einem Gespräch aus den 1950er Jahren mit John von Neumann, wie von Neumann über den "immer schneller werdenden Fortschritt der Technologie" bemerkte, der sich einer "wesentlichen Singularität in der Geschichte der Rasse" nähere, "jenseits derer menschliche Angelegenheiten, wie wir sie kennen, nicht fortbestehen könnten". Das Konzept wurde maßgeblich von dem Informatiker und Science-Fiction-Autor Vernor Vinge weiterentwickelt, dessen einflussreicher Aufsatz "The Coming Technological Singularity" von 1993 argumentierte, dass die Erschaffung übermenschlicher Intelligenz einen Ereignishorizont markieren würde, nach dem die Zukunft für nicht augmentierte Menschen grundlegend unerkennbar wird, und sagte voraus, dass dies innerhalb von Jahrzehnten geschehen könnte.
Kurzweil und das Gesetz der beschleunigenden Renditen
Der Futurist Ray Kurzweil popularisierte die Idee für ein breites Publikum, insbesondere in seinem Buch "The Singularity Is Near" von 2005. Kurzweil argumentiert, dass exponentielle Trends in der Informatik, Biotechnologie und anderen Bereichen, formalisiert als ein "Gesetz der beschleunigenden Renditen", zu einer Verschmelzung von menschlicher und maschineller Intelligenz führen werden, und hat wiederholt vorhergesagt, dass die Singularität um 2045 eintreten wird. Seine Bilanz spezifischer Vorhersagen hat sowohl Lob für die richtungsweisende Genauigkeit als auch Kritik für verpasste Termine und Übertreibungen eingebracht.
Intelligenzexplosion
Der Mechanismus, der am häufigsten angeführt wird, um zu erklären, wie eine Singularität auftreten könnte, ist die "Intelligenzexplosion", die der Mathematiker I. J. Good 1965 beschrieb und später von Nick Bostrom ausgearbeitet wurde: Ein KI-System, das in der Lage ist, sein eigenes Design zu verbessern, könnte in einer schnell beschleunigenden Rückkopplungsschleife sukzessive leistungsfähigere Versionen erzeugen, die in Superintelligenz weit jenseits menschlicher Fassungskraft gipfeln – ein Szenario, das einige als einen schnellen Weg von künstlicher allgemeiner Intelligenz zu etwas weit darüber Hinausgehendem betrachten. Diese Rahmung verbindet das Singularitätskonzept eng mit zeitgenössischen Debatten über existenzielle Risiken durch KI, da ein plötzlicher, unkontrollierter Fähigkeitssprung wenig Zeit für Kurskorrekturen ließe.
Kritik und Skepsis
Kritiker argumentieren, dass das Singularitätskonzept auf fragwürdigen Extrapolationen exponentieller Kurven beruht, die in der Praxis dazu neigen, S-förmigen Kurven mit abnehmenden Renditen zu folgen, und dass "Intelligenz" keine einzelne skalare Größe ist, die einfach unbegrenzt hochskaliert werden kann. Physikalische Beschränkungen, einschließlich Energieverfügbarkeit, Chipfertigungskapazität und Datenverfügbarkeit, werden als wahrscheinliche Engpässe angeführt. Forscher wie Yann LeCun und Gary Marcus haben kurzfristige Singularitätsszenarien als spekulativ und unzureichend in der Funktionsweise aktueller Systeme begründet abgetan, während sie anerkennen, dass der KI-Fortschritt nach historischen Maßstäben schnell bleibt.
Zeitgenössische Relevanz
Obwohl "Singularität" als ein spezifisches datiertes Ereignis von Forschern heute vorsichtiger verwendet wird als von populären Kommentatoren, beeinflusst die zugrunde liegende Frage, ob der KI-Fortschritt einen Wendepunkt schneller, schwer kontrollierbarer Selbstverbesserung erreichen könnte, weiterhin die Forschung zu KI-Sicherheit und Ausrichtung, einschließlich Debatten über Skalierungsgesetze und das Tempo von Fähigkeitsgewinnen durch Reasoning-Modelle, die zusätzliche Inferenzzeit-Berechnung nutzen.