Kohärent extrapolierter Wille (CEV) ist ein theoretisches Rahmenwerk im Bereich der KI-Ausrichtung, das einen Ansatz beschreibt, bei dem eine künstliche Superintelligenz (ASI) auf der wohlwollenden Annahme handeln würde, was Menschen wollen könnten, wenn sie wissender, rationaler wären, mehr Zeit zum Nachdenken hätten und als Gesellschaft gemeinsam gereift wären, anstatt auf der Grundlage der aktuellen individuellen oder kollektiven Präferenzen der Menschheit. Es wurde 2004 von Eliezer Yudkowsky im Rahmen seiner Arbeit über freundliche KI vorgeschlagen.
Das Konzept befasst sich mit der Herausforderung, Ziele für fortschrittliche KI-Systeme festzulegen, die die menschliche Intelligenz übertreffen könnten. Anstatt einen festen Satz von Regeln oder Werten zu kodieren, schlägt CEV vor, dass eine ASI ihre Ziele durch Extrapolation des Willens der Menschheit ableiten sollte, um widerzuspiegeln, was Menschen unter idealen epistemischen und moralischen Bedingungen wünschen könnten.
Konzept
CEV schlägt vor, dass ein fortschrittliches KI-System seine Ziele durch Extrapolation des Willens der Menschheit ableiten sollte. Dies bedeutet, menschliche Präferenzen zu aggregieren und in einen Prozess zu projizieren, der widerspiegelt, was Menschen unter idealen epistemischen und moralischen Bedingungen wünschen könnten. Ziel ist es sicherzustellen, dass KI-Systeme nicht die wahren Interessen der Menschheit verletzen; weder vorübergehenden oder schlecht informierten Präferenzen folgen noch Fragen entscheiden, bei denen der Wille der Menschheit noch unvorhersehbar ist.
In poetischen Worten ist unser kohärent extrapolierter Wille unser Wunsch, wenn wir mehr wüssten, schneller dächten, mehr die Menschen wären, die wir sein wollten, weiter zusammen aufgewachsen wären; wo die Extrapolation konvergiert statt divergiert, wo unsere Wünsche kohärent sind statt sich zu stören; extrapoliert, wie wir wünschen, dass extrapoliert wird, interpretiert, wie wir wünschen, dass interpretiert wird.
Das Rahmenwerk ist darauf ausgelegt, human und selbstkorrigierend zu sein, indem es die Quelle menschlicher Werte erfasst, anstatt sie aufzulisten. Es vermeidet die Schwierigkeit, eine explizite, feste Liste von Regeln festzulegen. Es verkörpert moralisches Wachstum und verhindert, dass fehlerhafte aktuelle moralische Überzeugungen eingefroren werden. Es begrenzt den Einfluss, den eine kleine Gruppe von Programmierern darauf haben kann, was die ASI wertschätzen würde, und reduziert so auch die Anreize, zuerst eine ASI zu bauen. Und es hält die Menschheit an der Spitze ihres Schicksals.
Debatte
Yudkowsky und Nick Bostrom stellen fest, dass CEV mehrere interessante Eigenschaften hat, aber auch erhebliche theoretische und praktische Herausforderungen mit sich bringt. Bostrom merkt an, dass CEV "eine Reihe freier Parameter hat, die auf verschiedene Weise spezifiziert werden könnten, was zu verschiedenen Versionen des Vorschlags führt." Ein solcher Parameter ist die Extrapolationsbasis (deren extrapolierter Wille berücksichtigt wird). Zum Beispiel, ob sie Menschen mit schwerer Demenz, Patienten im vegetativen Zustand, Föten oder Embryonen einschließen sollte. Er merkt auch an, dass, wenn die Extrapolationsbasis von CEV nur Menschen umfasst, das Risiko besteht, dass das Ergebnis gegenüber anderen Tieren und digitalen Geistern ungnädig wäre. Eine mögliche Lösung wäre, einen Mechanismus einzubauen, um die Extrapolationsbasis von CEV zu erweitern.
Diese Debatten sind Teil des breiteren Diskurses über KI-Ausrichtung und KI-Sicherheit, der untersucht, wie sichergestellt werden kann, dass fortschrittliche KI-Systeme im Einklang mit menschlichen Werten und Interessen handeln.
Varianten und Alternativen
Ein vorgeschlagener theoretischer Alternativansatz zu CEV besteht darin, sich auf die überlegenen kognitiven Fähigkeiten einer künstlichen Superintelligenz zu verlassen, um herauszufinden, was moralisch richtig ist, und sie entsprechend handeln zu lassen. Es ist auch möglich, beide Techniken zu kombinieren, zum Beispiel indem die ASI CEV folgt, außer wenn es moralisch unzulässig ist.
In einer anderen Übersicht untersucht eine philosophische Analyse CEV durch die Linse des sozialen Vertrauens in autonome Systeme. Unter Bezugnahme auf Anthony Giddens' Konzept des "aktiven Vertrauens" schlägt der Autor eine Weiterentwicklung von CEV zu "Coherent, Extrapolated and Clustered Volition" (CECV) vor. Diese Formulierung zielt darauf ab, die moralischen Präferenzen verschiedener kultureller Gruppen besser widerzuspiegeln und bietet so einen pragmatischeren ethischen Rahmen für das Design von KI-Systemen, die öffentliches Vertrauen gewinnen und gleichzeitig gesellschaftliche Vielfalt berücksichtigen.
Beziehung zu anderen KI-Konzepten
CEV ist im breiteren Feld der künstlichen Intelligenz-Forschung angesiedelt, insbesondere in Diskussionen darüber, wie Systeme entworfen werden können, die für die Menschheit vorteilhaft sind. Es steht im Kontrast zu Ansätzen, die auf expliziten regelbasierten Systemen oder auf dem Lernen aus menschlichem Feedback basieren, wie RLHF (Reinforcement Learning aus menschlichem Feedback), das in modernen großen Sprachmodellen verwendet wird. Während RLHF darauf abzielt, Modelle durch iteratives Feedback an aktuelle menschliche Präferenzen anzupassen, schlägt CEV eine ambitioniertere Extrapolation dieser Präferenzen vor.
Das Rahmenwerk bezieht sich auch auf Fragen der Rationalität und Entscheidungsfindung in KI-Systemen. Es nimmt an, dass es einen kohärenten Satz von Präferenzen gibt, auf den Menschen unter idealen Bedingungen konvergieren würden, was eine umstrittene philosophische Annahme ist.