Das Mooresche Gesetz ist die Beobachtung, die Gordon Moore, Mitbegründer von Intel, 1965 machte, dass sich die Anzahl der Transistoren auf einem integrierten Schaltkreis etwa alle zwei Jahre verdoppelt – eine Faustregel, die über vier Jahrzehnte hinweg bemerkenswert konstant galt und zum allgemeinen Sinnbild für das exponentielle Wachstum der Rechenleistung wurde. In der künstlichen Intelligenz wird das Mooresche Gesetz oft lose auf einen verwandten, aber eigenständigen Trend bezogen: das rasante Wachstum der Rechenleistung, die für das Training und den Betrieb von KI-Modellen aufgewendet wird, das zeitweise sogar schneller voranschritt als die klassische Transistorskalierung.
Die traditionelle Transistordichte, die dem Mooreschen Gesetz zugrunde liegt, verlangsamte sich in den 2010er-Jahren spürbar, als Chiphersteller an die physikalischen Grenzen der Miniaturisierung stießen. Daraufhin verlagerte sich die Halbleiterindustrie zunehmend auf spezialisierte Architekturen, das Stapeln von Chips (Chip-Stacking) und größere Die-Flächen, anstatt allein auf reine Dichtegewinne zu setzen.
Rechenskalierung in der KI
Eine vielzitierte Analyse von OpenAI aus dem Jahr 2018 mit dem Titel „AI and Compute“ zeigte, dass sich die Rechenmenge, die für die größten KI-Trainingsläufe aufgewendet wurde, zwischen 2012 und 2018 etwa alle 3,4 Monate verdoppelte – weit schneller als die klassische Zweijahresverdopplung des Mooreschen Gesetzes. Dieser Anstieg wurde vor allem durch die wachsende Bereitschaft der Forscher getragen, mehr in größere Trainingsläufe zu investieren, und weniger durch reine Chipverbesserungen. Dieses Wachstum bildet die Grundlage empirischer Skalierungsgesetze, die beschreiben, wie sich die Modellleistung vorhersagbar verbessert, wenn Parameterzahl, Datenmenge und Rechenaufwand gemeinsam steigen.
Hardware hinter der Kurve
Grafikprozessoren (GPUs), ursprünglich für die Bilddarstellung entwickelt, wurden zur dominierenden Hardware für KI-Training, da ihre parallele Architektur ideal für die Matrixoperationen geeignet ist, die das Herz neuronaler Netze bilden. Die CUDA-Softwareplattform von Nvidia, die 2006 eingeführt wurde, verschaffte dem Unternehmen einen dauerhaften Vorteil, als Deep Learning nach dem AlexNet-Durchbruch 2012 massiv an Fahrt aufnahm. Googles speziell entwickelte TPU-Beschleuniger, die erstmals 2016 eingesetzt wurden, boten einen alternativen, gezielt auf neuronale Netzwerklasten optimierten Ansatz und wurden unter anderem für das Training von Modellen wie Gemini verwendet. Nvidia-CEO Jensen Huang hat argumentiert, dass die kombinierten Fortschritte bei Hardware und Software die KI-Rechenleistung heute schneller wachsen lassen als das historische Mooresche Gesetz – eine These, die eng mit Nvidias Aufstieg zu einem der wertvollsten Unternehmen der Welt Mitte der 2020er-Jahre verbunden ist.
Grenzen und Gegenbewegungen
Steigender Stromverbrauch, hohe Chipfertigungskosten und der immense Aufwand für den Bau von Rechenzentren sind inzwischen zu ebenso bindenden Engpässen geworden wie die reinen Transistorgrenzen. Ereignisse wie der DeepSeek-Schock im Januar 2025, als ein konkurrenzfähiges Modell angeblich zu einem Bruchteil der erwarteten Kosten trainiert wurde, entfachten eine erneute Debatte darüber, ob rohe Rechenskalierung der einzige Weg zu besserer KI ist. Als Alternativen werden Techniken wie Mixture-of-Experts und Quantisierung angeführt, um mehr Leistung pro Recheneinheit herauszuholen, anstatt einfach mehr Rechenleistung einzusetzen.