AI-Ethik ist das interdisziplinäre Feld, das die moralischen, sozialen und politischen Implikationen des Baus und Einsatzes von Systemen der künstlichen Intelligenz untersucht. Es überschneidet sich mit, ist aber breiter als KI-Sicherheit, die sich tendenziell auf die Verhinderung katastrophaler oder existenzieller Ausfälle konzentriert; AI-Ethik hingegen zentriert sich auf näherliegende Schäden wie Diskriminierung, Verlust der Privatsphäre, Erosion der Rechenschaftspflicht, Arbeitsplatzverlagerung und die Konzentration von Macht in einer kleinen Anzahl von Unternehmen und Regierungen, die Grenzsysteme kontrollieren. Praktiker in diesem Feld umfassen Philosophen, Informatiker, Juristen und Soziologen, und ihre Anliegen beeinflussen zunehmend Unternehmenspolitik und staatliche Regulierung durch Rahmenwerke wie den EU-KI-Gesetz.
Kernanliegen
Voreingenommenheit und Fairness gehören zu den am meisten untersuchten Themen in der AI-Ethik: Da maschinelles Lernen Systeme statistische Muster aus Trainingsdaten lernen, können sie historische Diskriminierung, die in diesen Daten vorhanden ist, reproduzieren und verstärken, ein Effekt, der in Einstellungstools, Kreditbewertung und Gesichtserkennung dokumentiert ist und ausführlich im Artikel über algorithmische Voreingenommenheit diskutiert wird. Transparenz und Rechenschaftspflicht betreffen die Frage, ob die von einer KI-Entscheidung betroffenen Personen diese verstehen oder anfechten können, eine Herausforderung, die durch die Black-Box-Natur großer neuronaler Netzwerkmodelle verschärft wird, was die separaten Felder erklärbare KI und Interpretierbarkeit motiviert hat. Datenschutzbedenken entstehen sowohl aus den riesigen Trainingsdaten, die zum Bau von Modellen gesammelt werden, als auch aus KI-gestützten Überwachungsfähigkeiten. Weitere wiederkehrende Themen umfassen die Umweltkosten des Trainings und Betriebs großer Modelle, die Arbeitsbedingungen der menschlichen Annotatoren, die Daten kennzeichnen und Inhalte moderieren, sowie das Risiko, dass generative Werkzeuge die Verbreitung von Fehlinformationen durch Deepfake-Medien und qualitativ minderwertige massenproduzierte Inhalte beschleunigen, die manchmal als KI-Slop bezeichnet werden.
Die Debatte über stochastische Papageien
Ein entscheidender Moment für das Feld war das Papier von 2021 „On the Dangers of Stochastic Parrots“, das von Timnit Gebru, Emily Bender und Kollegen verfasst wurde und argumentierte, dass immer größere Sprachmodelle das Risiko bergen, Voreingenommenheit in großem Maßstab zu kodieren, erhebliche Umwelt- und Finanzkosten verursachen und einen falschen Eindruck von Verständnis erzeugen können, wo keines existiert, eine Kritik, die später durch den Begriff stochastischer Papagei zusammengefasst wurde. Die Veröffentlichung des Papiers fiel mit Gebrus Ausscheiden bei Google zusammen, das durch einen internen Streit über die Überprüfung des Papiers ausgelöst wurde, was zu einem viel diskutierten Fallbeispiel für die Spannung zwischen Unternehmens-KI-Laboren und internen Ethikforschern wurde.
Institutionelle Reaktion
Als Reaktion auf wachsende öffentliche Besorgnis veröffentlichen die meisten großen KI-Entwickler, einschließlich OpenAI und Anthropic, nun einige Form von Nutzungsrichtlinien, Sicherheits- oder verantwortungsvollen KI-Rahmenwerken und Modellkarten, die bekannte Einschränkungen dokumentieren. Anthropic hat insbesondere einen Großteil seines Forschungsprogramms, einschließlich konstitutioneller KI, darauf ausgerichtet, ethische Prinzipien direkt in das Modelltraining einzubetten. Regierungen haben ebenfalls Schritte unternommen, um AI-Ethikprinzipien in Gesetze oder Leitlinien zu kodifizieren, einschließlich der OECD-KI-Prinzipien, des US-amerikanischen Blueprint for an AI Bill of Rights und verbindlicher Regeln unter dem EU-KI-Gesetz; die breitere regulatorische Landschaft wird im Artikel über KI-Governance behandelt.
Kritik und Debatte
AI-Ethik als Feld hat selbst Kritik aus mehreren Richtungen erfahren. Einige Technologen argumentieren, dass Ethikprüfungen die vorteilhafte Bereitstellung verlangsamen oder eher performative Compliance als substanzielle Veränderung darstellen. Andere, einschließlich einiger KI-Sicherheitsforscher, argumentieren, dass ein kurzfristiger Ethikrahmen von bedeutenderen langfristigen Risiken ablenkt; umgekehrt haben ethisch fokussierte Forscher argumentiert, dass der Rahmen existenzieller Risiken, der im Artikel über existenzielles Risiko durch KI diskutiert wird, Aufmerksamkeit und Finanzierung von dokumentierten gegenwärtigen Schäden ablenkt. Die Debatte darüber, welche Anliegen die KI-Governance-Politik leiten sollten, bleibt aktiv und weitgehend ungelöst bis Mitte der 2020er Jahre.