Die KI-Haftungsrichtlinie ist ein vorgeschlagenes Rechtsinstrument, das von der Europäischen Kommission am 28. September 2022 eingeführt wurde. Sie zielt darauf ab, die zivilrechtlichen Haftungsregeln in der Europäischen Union für Schäden, die durch Systeme der künstlichen Intelligenz verursacht werden, zu harmonisieren. Die Richtlinie ergänzt das EU-KI-Gesetz, das sich auf die Regulierung der Anforderungen an KI-Systeme konzentriert, indem sie die Frage behandelt, wer rechtlich verantwortlich ist, wenn ein KI-System Schaden verursacht. Sie schafft kein Gefährdungshaftungsregime, sondern passt Verfahrensregeln an, um die Beweislast für Geschädigte in KI-bezogenen Klagen zu erleichtern.
Der Vorschlag ist Teil der breiteren Digitalstrategie der Kommission, die darauf abzielt, Vertrauen in KI aufzubauen, indem sichergestellt wird, dass Personen, die durch KI-Systeme geschädigt wurden, einen realistischen Weg zur Entschädigung haben. Die Richtlinie gilt sowohl für vertragliche als auch für außervertragliche Haftungsansprüche und deckt ein breites Spektrum von KI-Anwendungen ab, von medizinischen Geräten bis hin zu autonomen Fahrzeugen. Sie ist darauf ausgelegt, mit bestehenden nationalen Haftungsrahmen, wie den Produkthaftungsregeln, zusammenzuarbeiten, anstatt sie vollständig zu ersetzen.
Hintergrund und legislativer Kontext
Die Europäische Union entwickelt seit Ende der 2010er Jahre einen umfassenden Regulierungsrahmen für KI. Das KI-Gesetz, das erstmals im April 2021 vorgeschlagen wurde, legt risikobasierte Anforderungen an KI-Systeme fest, einschließlich Transparenz- und menschlicher Aufsichtspflichten. Das KI-Gesetz befasst sich jedoch nicht mit der zivilrechtlichen Haftung - es legt Regeln fest, wie KI-Systeme gebaut und verwendet werden sollten, aber nicht, wer für Schäden zahlt, die sie verursachen. Die KI-Haftungsrichtlinie schließt diese Lücke, indem sie einen harmonisierten Ansatz für Haftungsansprüche in den Mitgliedstaaten schafft.
Die Richtlinie wurde nach einer Entschließung des Europäischen Parlaments aus dem Jahr 2020 entwickelt, die einen modernen Haftungsrahmen für KI forderte. Die Kommission führte eine Folgenabschätzung durch, die erhebliche Lücken in den bestehenden nationalen Gesetzen aufzeigte, die Geschädigte oft daran hinderten, die Kausalität zu beweisen, wenn KI-Systeme beteiligt waren. Der Vorschlag reagiert auch auf die zunehmende Verbreitung von maschinellem Lernen-Systemen in kritischen Sektoren, wo ihre undurchsichtigen Entscheidungsprozesse traditionelle Rechtsansprüche erschweren.
Das Gesetzgebungsverfahren läuft seit der Veröffentlichung des Vorschlags. Der Rechtsausschuss des Europäischen Parlaments prüft den Text, und es wird erwartet, dass die Verhandlungen bis 2024 und 2025 andauern. Die Richtlinie ist eng mit dem KI-Gesetz verbunden, und ihre endgültige Form wird vom Ausgang dieser parallelen Verhandlungen abhängen.
Wichtigste Bestimmungen
Die Richtlinie führt zwei Hauptmechanismen ein, um die Herausforderungen der KI-Haftung zu bewältigen. Erstens schafft sie eine widerlegbare Vermutung der Kausalität in Fällen, in denen ein Kläger nachweisen kann, dass ein Fehler eines KI-Systems den Schaden verursacht hat. Diese Vermutung gilt, wenn der Kläger zeigt, dass der Beklagte eine rechtliche Verpflichtung, wie die nach dem KI-Gesetz, nicht erfüllt hat und dass der Schaden eine plausible Folge dieses Verstoßes ist. Der Beklagte kann die Vermutung widerlegen, indem er beweist, dass der Schaden durch andere Faktoren verursacht wurde.
Zweitens gewährt die Richtlinie Klägern ein Recht, die Offenlegung relevanter Beweise von KI-Systemanbietern oder -nutzern zu verlangen. Dieses Recht ist auf das beschränkt, was für die Klage notwendig und verhältnismäßig ist, und es schützt Geschäftsgeheimnisse und vertrauliche Informationen. Gerichte können die Offenlegung nur anordnen, wenn der Kläger ausreichende Tatsachen vorgelegt hat, die die Plausibilität seiner Klage stützen. Die Beweise können Trainingsdaten, Modellparameter und Systemprotokolle umfassen, die oft für die Feststellung der Kausalität unerlässlich sind.
Die Richtlinie klärt auch die Haftung der verschiedenen Akteure in der KI-Wertschöpfungskette. Sie unterscheidet zwischen dem Anbieter eines KI-Systems, dem Nutzer, der es einsetzt, und in bestimmten Fällen dem Importeur oder Händler. Die Kausalitätsvermutung kann auf jede dieser Parteien angewendet werden, je nachdem, wer die Kontrolle über den relevanten Aspekt des Systems hatte. Für Hochrisiko-KI-Systeme richtet sich die Richtlinie nach den Verpflichtungen des KI-Gesetzes, was bedeutet, dass die Nichteinhaltung dieser Verpflichtungen die Vermutung auslösen kann.
Anwendungsbereich und Ausschlüsse
Die Richtlinie gilt für Schadensersatzansprüche, die durch KI-Systeme verursacht werden, einschließlich körperlicher Schäden, Sachschäden und wirtschaftlicher Verluste. Sie deckt sowohl vorsätzliches als auch fahrlässiges Verhalten ab, schafft jedoch keine Gefährdungshaftung - Kläger müssen weiterhin ein Verschulden oder einen Rechtsverstoß nachweisen. Der Vorschlag schließt ausdrücklich Ansprüche aus, die sich aus nuklearen Schäden, Verkehrsunfällen, die von nationalen Kfz-Versicherungssystemen abgedeckt werden, und bestimmten anderen Bereichen ergeben, die bereits durch spezifische EU-Gesetze geregelt sind.
Die Richtlinie gilt für KI-Systeme, wie sie im KI-Gesetz definiert sind, das Software umfasst, die Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen erzeugen kann. Diese Definition deckt ein breites Spektrum von Technologien ab, einschließlich generativer KI-Modelle und großer Sprachmodelle-Systeme. Die Richtlinie gilt jedoch nicht für KI-Systeme, die ausschließlich für militärische Zwecke, die nationale Sicherheit oder die öffentliche Sicherheit verwendet werden, da diese außerhalb der Zuständigkeit der EU liegen.
Der Vorschlag enthält auch eine Verjährungsfrist von drei Jahren für die Erhebung von Ansprüchen, die ab dem Zeitpunkt beginnt, an dem der Kläger Kenntnis von dem Schaden und dem Kausalzusammenhang erlangt hat oder hätte erlangen müssen. Dies entspricht der gängigen Praxis in den EU-Mitgliedstaaten, bietet jedoch eine einheitliche Grundlage in der gesamten Union.
Verhältnis zur Produkthaftungsrichtlinie
Die KI-Haftungsrichtlinie arbeitet neben der bestehenden Produkthaftungsrichtlinie, die parallel überarbeitet wurde. Die Produkthaftungsrichtlinie deckt Ansprüche für fehlerhafte Produkte, einschließlich Software, unter einem Gefährdungshaftungsregime ab - Kläger müssen kein Verschulden nachweisen, sondern nur, dass das Produkt fehlerhaft war und Schaden verursacht hat. Die KI-Haftungsrichtlinie ergänzt dies, indem sie Fälle abdeckt, in denen der Schaden aus der Nutzung eines KI-Systems und nicht aus einem Fehler des Produkts selbst entsteht.
Wenn beispielsweise ein KI-gestütztes medizinisches Gerät aufgrund eines Herstellungsfehlers nicht funktioniert, gilt die Produkthaftungsrichtlinie. Wenn der Schaden aus der Art und Weise resultiert, wie das KI-System trainiert oder verwendet wurde, wie etwa bei voreingenommener Entscheidungsfindung, kann die KI-Haftungsrichtlinie gelten. Die beiden Richtlinien sind so konzipiert, dass sie sich gegenseitig ausschließen, wobei die KI-Haftungsrichtlinie nur gilt, wenn die Produkthaftungsrichtlinie nicht anwendbar ist.
Die Kommission hat betont, dass die KI-Haftungsrichtlinie die grundlegenden Prinzipien des nationalen Haftungsrechts nicht ändert. Sie harmonisiert weder die Definition des Verschuldens noch die Berechnung von Schadensersatz, die weiterhin dem Recht der Mitgliedstaaten unterliegen. Stattdessen konzentriert sie sich auf Verfahrensregeln, die es Geschädigten erleichtern, in KI-bezogenen Fällen Zugang zur Justiz zu erhalten.
Auswirkungen auf KI-Entwickler und -Betreiber
Die Richtlinie erlegt KI-Systemanbietern und -nutzern neue Verpflichtungen auf, insbesondere in Bezug auf Beweissicherung und Dokumentation. Anbieter müssen Aufzeichnungen führen, die in Gerichtsverfahren verwendet werden können, einschließlich Informationen über das Design des Systems, die Trainingsdaten und die Betriebsparameter. Diese Anforderung steht im Einklang mit den Dokumentationspflichten des KI-Gesetzes, fügt jedoch eine haftungsspezifische Dimension hinzu.
Für KI-Entwickler schafft die Richtlinie einen Anreiz, robuste Test- und Überwachungsprozesse zu implementieren. Die Kausalitätsvermutung bedeutet, dass die Nichteinhaltung der Anforderungen des KI-Gesetzes die Beweislast auf den Beklagten verlagern kann, was es Klägern erleichtert, erfolgreich zu sein. Dies könnte die Einführung von Modellbereinigung und anderen Techniken fördern, die die Transparenz des Systems verbessern, sowie strengere Datenerweiterungs-Praktiken zur Reduzierung von Verzerrungen.
Die Richtlinie betrifft auch KI-Nutzer, einschließlich Unternehmen, die KI-Systeme in ihrem Betrieb einsetzen. Nutzer können haftbar gemacht werden, wenn sie das System nicht ordnungsgemäß überwachen oder wenn sie es auf eine Weise verwenden, die gegen rechtliche Verpflichtungen verstößt. Die Richtlinie ermutigt Nutzer, klare Richtlinien für den KI-Einsatz aufrechtzuerhalten, einschließlich menschlicher Aufsichtsmechanismen und Verfahren zur Meldung von Vorfällen.
Kritik und Debatten
Der Vorschlag hat erhebliche Debatten unter den Interessengruppen ausgelöst. Verbraucherorganisationen haben die Richtlinie als einen Schritt zum Schutz von Geschädigten begrüßt, argumentieren jedoch, dass sie nicht weit genug geht. Einige haben eine Gefährdungshaftung für Hochrisiko-KI-Systeme gefordert, die die Notwendigkeit, ein Verschulden nachzuweisen, vollständig beseitigen würde. Die Kommission lehnte diesen Ansatz ab und argumentierte, dass er Innovationen behindern und übermäßige Kosten für KI-Entwickler verursachen würde.
Industriegruppen haben Bedenken hinsichtlich der Belastung durch die Offenlegung von Beweisen geäußert, insbesondere in Bezug auf Geschäftsgeheimnisse. Die Richtlinie enthält Schutzmaßnahmen, wie gerichtliche Aufsicht und Vertraulichkeitsmaßnahmen, aber einige Unternehmen argumentieren, dass das Risiko der Offenlegung proprietärer Informationen zu hoch bleibt. Der endgültige Text könnte zusätzliche Schutzmaßnahmen für KI-Anbieter enthalten, wie die Möglichkeit, Beweise in zusammengefasster Form vorzulegen.
Rechtswissenschaftler haben auch die Kausalitätsvermutung debattiert, die eine Abweichung vom traditionellen Deliktsrecht in vielen Mitgliedstaaten darstellt. Einige argumentieren, dass die Vermutung zu weit gefasst ist und zu unbegründeten Klagen führen könnte, während andere behaupten, dass sie notwendig ist, um das "Black-Box"-Problem von KI-Systemen anzugehen. Das Europäische Parlament hat Änderungsanträge vorgeschlagen, um den Anwendungsbereich der Vermutung zu klären und sicherzustellen, dass sie nur für Hochrisiko-KI-Systeme gilt.
Aktueller Stand und nächste Schritte
Stand 2024 befindet sich die KI-Haftungsrichtlinie noch in der Verhandlung. Das Europäische Parlament und der Rat der Europäischen Union arbeiten an ihren jeweiligen Positionen, und es wird erwartet, dass Triloge beginnen, sobald beide Institutionen ihre Änderungsanträge vereinbart haben. Die Richtlinie ist eng mit dem KI-Gesetz verbunden, das im März 2024 angenommen wurde, und die endgültigen Haftungsregeln müssen mit den Anforderungen des KI-Gesetzes übereinstimmen.
Die Kommission hat angegeben, dass die Richtlinie innerhalb von zwei Jahren nach ihrer Annahme in nationales Recht umgesetzt werden sollte. Dieser Zeitplan würde die Richtlinie je nach endgültigem Legislativplan in den meisten Mitgliedstaaten bis 2026 oder 2027 in Kraft setzen. Die Kommission hat sich auch verpflichtet, die Umsetzung der Richtlinie zu überwachen und kann auf der Grundlage der Erfahrungen Überarbeitungen vorschlagen.
Die Richtlinie ist Teil eines breiteren globalen Trends zur Regulierung der KI-Haftung. Andere Rechtsordnungen, einschließlich der Vereinigten Staaten und Chinas, entwickeln ihre eigenen Ansätze zur KI-Verantwortlichkeit. Der Rahmen der EU wird diese Bemühungen wahrscheinlich beeinflussen, insbesondere in Bereichen wie Beweisoffenlegung und Kausalitätsvermutung. Der Ausgang des Gesetzgebungsverfahrens wird daher Auswirkungen über die Europäische Union hinaus haben und die globalen Standards für die KI-Haftung prägen.