Verantwortungsvolle Skalierungsrichtlinien (RSPs) sind freiwillige Rahmenwerke, die von KI-Entwicklern veröffentlicht werden und die Steigerung der eingesetzten Fähigkeiten eines Modells an entsprechende Steigerungen der darauf angewendeten Sicherheits-, Schutz- und Bewertungsmaßnahmen koppeln, mit dem ausdrücklichen Ziel, katastrophale Schäden zu verhindern, wenn Modelle sich gefährlichen Fähigkeitsschwellen nähern. Anthropic veröffentlichte im September 2023 die erste derartige Richtlinie und definierte eine Reihe von „KI-Sicherheitsstufen“ (ASL), die lose an Biosicherheits-Eindämmungsstandards angelehnt sind. Dieser Ansatz wurde anschließend in ähnlicher Form, unter verschiedenen Namen, von anderen Laboren übernommen.
Die Kernidee besteht darin, Sicherheitsverpflichtungen konkret und überprüfbar zu machen, statt sie rein vage zu halten: Ein Labor verpflichtet sich im Voraus zu spezifischen Fähigkeitsbewertungen und erklärt, dass es ein Modell nicht einsetzen oder weiter trainieren wird, wenn es eine definierte Schwelle überschreitet - etwa einen Anfänger bei der Erstellung biologischer Waffen sinnvoll unterstützt - bis entsprechende Schutzmaßnahmen vorhanden sind.
Ursprünge und vergleichbare Rahmenwerke
Anthropics RSP wurde durch frühere Forschung zur KI-Sicherheit über die Messung und Vorhersage gefährlicher Fähigkeiten sowie durch interne Debatten darüber beeinflusst, wie Ausrichtungs-Bedenken in konkrete Einsatzentscheidungen operationalisiert werden können. OpenAI veröffentlichte im Dezember 2023 ein vergleichbares „Preparedness Framework“, das Risikokategorien wie Cybersicherheit und biologische Bedrohungen über ein Scorecard-Modell verfolgt. Google DeepMind folgte 2024 mit einem „Frontier Safety Framework“, und mehrere andere Entwickler von Frontier-Modellen gaben ähnliche freiwillige Zusagen rund um den KI-Sicherheitsgipfel in Bletchley Park 2023 ab.
Inhalt und Mechanik
Typische Elemente umfassen Fähigkeitsschwellen, die an spezifische Bewertungen gekoppelt sind, erforderliche Sicherheits- und Schutzmaßnahmen auf jeder Stufe, wie etwa Red Teaming und eingeschränkter Zugang zu Modellgewichten, sowie Verpflichtungen, die Skalierung zu pausieren, wenn Maßnahmen nicht rechtzeitig bereitgestellt werden können. Anthropics CEO Dario Amodei hat die Richtlinie als Wette beschrieben, dass es besser sei, sicher leistungsfähige KI zu entwickeln, als gar nicht zu entwickeln, da andere Akteure die Entwicklung unabhängig davon fortsetzen würden. Die Richtlinien werden selbst veröffentlicht und selbst durchgesetzt, statt extern geprüft oder rechtlich bindend zu sein - ein strukturelles Merkmal, das Mitte der 2020er Jahre branchenweit geteilt wird.
Kritik
Kritiker, darunter einige Forscher der KI-Governance, argumentieren, dass freiwillige Selbstregulierung der Branche keine Durchsetzungsmechanismen besitzt, dass Schwellen von denselben Unternehmen, die sie einhalten müssen, neu definiert werden können und dass Wettbewerbsdruck einen Anreiz schafft, mehrdeutige Bewertungen großzügig zu interpretieren. Befürworter entgegnen, dass RSPs zumindest eine öffentliche Papierspur und eine Branchennorm etablieren, auf die verbindliche Regulierung wie der EU AI Act später verweisen oder sie formalisieren kann, und dass sie eines der wenigen konkreten Artefakte darstellen, die abstrakte Bedenken hinsichtlich existenziellem Risiko mit täglichen Einsatzentscheidungen verbinden.