Die US-amerikanische KI-Bill of Rights ist ein nicht bindender politischer Leitfaden, der im Oktober 2022 vom Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses herausgegeben wurde. Er skizziert fünf Prinzipien, die die Entwicklung, den Einsatz und die Nutzung von Systemen der künstlichen Intelligenz leiten sollen, mit dem erklärten Ziel, Bürgerrechte, bürgerliche Freiheiten und demokratische Werte angesichts der zunehmenden Verbreitung von künstlicher Intelligenz in allen Sektoren zu schützen. Das Dokument trägt den offiziellen Titel „Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People“.
Der Leitfaden entstand aus einem breiteren politischen Kontext, in dem Regierungen und internationale Gremien versucht haben, ethische Richtlinien für KI zu etablieren. Seit 2016 wurden weltweit zahlreiche Rahmenwerke zur KI-Ethik veröffentlicht, darunter das „Ethically Aligned Design“ des IEEE und die „AI Principles“ der OECD. Die US-amerikanische KI-Bill of Rights zeichnet sich jedoch durch ihren expliziten Fokus auf rechtsbasierte Schutzmaßnahmen und ihre Anwendung auf sowohl öffentliche als auch private Nutzungen automatisierter Systeme aus.
Hintergrund und Entwicklung
Die Entwicklung der KI-Bill of Rights wurde vom Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses im Jahr 2021 initiiert, nach einer Reihe von öffentlichen Konsultationen und Informationsanfragen. Die Bemühungen wurden von der damaligen stellvertretenden Direktorin Alondra Nelson geleitet, die die Notwendigkeit betonte, die Schäden durch KI anzugehen, einschließlich algorithmischer Diskriminierung und Datenschutzverletzungen. Der Leitfaden wurde im Oktober 2022 veröffentlicht, kurz vor dem öffentlichen Start von generativen KI-Werkzeugen wie ChatGPT, die später die öffentliche Debatte über KI-Regulierung intensivierten.
Das Dokument wurde durch einen Bericht des Nationalen Büros für die KI-Initiative aus dem Jahr 2022 informiert und stützte sich auf frühere Arbeiten wie die Meta-Überprüfung von KI-Prinzipien des Berkman-Klein-Zentrums aus dem Jahr 2020, die gemeinsame Werte wie Datenschutz, Rechenschaftspflicht, Sicherheit, Transparenz, Fairness und menschliche Kontrolle identifizierte. Das Weiße Haus bezog während des Entwurfsprozesses auch Organisationen der Zivilgesellschaft, Branchenvertreter und akademische Forscher ein.
Die fünf Prinzipien
Die KI-Bill of Rights skizziert fünf Kernprinzipien, die jeweils mit spezifischen Erwartungen an automatisierte Systeme verbunden sind:
- Sichere und wirksame Systeme: Automatisierte Systeme sollten in Konsultation mit verschiedenen Gemeinschaften, Interessengruppen und Fachexperten entwickelt werden, um Bedenken, Risiken und potenzielle Auswirkungen zu identifizieren. Systeme sollten Tests vor dem Einsatz, Risikoidentifizierung und -minderung sowie kontinuierliche Überwachung durchlaufen, die ihre Sicherheit und Wirksamkeit belegen.
- Schutz vor algorithmischer Diskriminierung: Entwickler und Betreiber automatisierter Systeme sollten proaktive und kontinuierliche Maßnahmen ergreifen, um Einzelpersonen vor algorithmischer Diskriminierung zu schützen. Dies umfasst gerechte Gestaltung, Folgenabschätzungen und unabhängige Prüfungen.
- Datenschutz: Automatisierte Systeme sollten mit Datenschutzmaßnahmen im Hinterkopf gebaut werden, um sicherzustellen, dass die Datenerhebung notwendig ist, die Einwilligung informiert erfolgt und Einzelpersonen die Kontrolle über ihre persönlichen Daten behalten.
- Benachrichtigung und Erläuterung: Einzelpersonen sollten benachrichtigt werden, wenn ein automatisiertes System verwendet wird, und klare, zeitnahe und zugängliche Erläuterungen darüber erhalten, wie das System zu Ergebnissen beiträgt, die sie betreffen.
- Menschliche Alternativen, Berücksichtigung und Rückgriff: Einzelpersonen sollten die Möglichkeit haben, sich von automatisierten Systemen abzumelden und eine menschliche Alternative zu wählen, sowie Zugang zu zeitnaher menschlicher Berücksichtigung und Rückgriffsmöglichkeiten bei nachteiligen Ergebnissen haben.
Diese Prinzipien sind nicht rechtlich bindend, sollen aber als „Leitfaden“ für Bundesbehörden, private Unternehmen und andere Einrichtungen dienen, die sie freiwillig übernehmen können. Der Leitfaden enthält auch ein begleitendes technisches Dokument mit praktischen Anleitungen zur Umsetzung.
Rezeption und Auswirkungen
Die Reaktionen auf die KI-Bill of Rights waren gemischt. Interessenverbände wie die American Civil Liberties Union begrüßten den Leitfaden als einen Schritt in Richtung Rechenschaftspflicht, während einige Branchenbeobachter das Fehlen von Durchsetzungsmechanismen bemängelten. Rechtswissenschaftler wiesen darauf hin, dass der freiwillige Charakter der Prinzipien ihre Wirkung begrenzt, und spiegelten damit breitere Debatten über die Wirksamkeit von Soft-Law-Ansätzen zur KI-Regulierung wider. Im Gegensatz dazu argumentierten einige Kommentatoren, dass der Leitfaden zukünftige Bundesgesetzgebung und behördliche Regelungen beeinflussen könnte.
Der Leitfaden wurde in späteren politischen Diskussionen zitiert, einschließlich der Executive Order der Biden-Administration von 2023 zur sicheren, geschützten und vertrauenswürdigen Entwicklung und Nutzung von künstlicher Intelligenz, die Bundesbehörden anwies, die Prinzipien des Leitfadens zu berücksichtigen. Mehrere Bundesstaaten, darunter Kalifornien und New York, haben Gesetzesentwürfe eingebracht, die auf die KI-Bill of Rights verweisen, obwohl bis 2025 keiner verabschiedet wurde.
Vergleich mit anderen Rahmenwerken
Die US-amerikanische KI-Bill of Rights unterscheidet sich von anderen regulatorischen Ansätzen durch ihre Betonung individueller Rechte anstelle einer risikobasierten Klassifizierung. Der EU-KI-Gesetz, der 2024 verabschiedet wurde, etabliert einen rechtlichen Rahmen, der KI-Anwendungen nach Risikostufen kategorisiert und verbindliche Verpflichtungen auferlegt. Im Gegensatz dazu ist der US-amerikanische Leitfaden nicht bindend und gilt allgemein für alle automatisierten Systeme, nicht nur für solche mit hohem Risiko. Auch die OECD und das IEEE haben ethische Richtlinien herausgegeben, die jedoch ebenfalls freiwilliger Natur sind.
Einige Wissenschaftler haben festgestellt, dass die Prinzipien des Leitfadens mit den acht gemeinsamen Prinzipien übereinstimmen, die in der Meta-Überprüfung des Berkman-Klein-Zentrums von 2020 identifiziert wurden, einschließlich Transparenz, Fairness und menschlicher Kontrolle. Der Leitfaden adressiert jedoch nicht militärische oder nationale Sicherheitsanwendungen, eine Einschränkung, die von einigen Experten kritisiert wurde.
Vermächtnis und zukünftige Richtungen
Bis 2025 bleibt die KI-Bill of Rights ein grundlegendes Dokument in der US-amerikanischen KI-Politik, obwohl ihre praktische Wirkung noch bewertet wird. Der rasche Fortschritt von großen Sprachmodellen und generativer KI hat die Bedenken zu den im Leitfaden behandelten Themen wie algorithmische Verzerrung und Datenschutz verstärkt. Einige politische Entscheidungsträger haben gefordert, die Prinzipien in Gesetze zu kodifizieren, während andere für einen flexibleren Ansatz plädieren.
Der Leitfaden hat auch internationale Diskussionen beeinflusst, wobei andere Länder seine Prinzipien bei der Entwicklung ihrer eigenen KI-Governance-Rahmenwerke untersuchen. Die fehlenden Durchsetzungsmechanismen und der freiwillige Charakter des Dokuments bleiben jedoch weiterhin Streitpunkte unter den Interessengruppen.