Ein Prompt ist die natürlichsprachliche Eingabe, die einem generativen KI-Modell wie einem großen Sprachmodell oder einem Bildgenerator gegeben wird, um eine gewünschte Ausgabe zu erzielen. Prompts reichen von einer einzelnen kurzen Anweisung bis hin zu aufwendigen, mehrteiligen Spezifikationen, die Beispiele, Einschränkungen und Formatierungsanforderungen enthalten.
Arten von Prompts
Prompts nehmen je nach Interaktion mehrere unterschiedliche Formen an. Ein System-Prompt legt dauerhafte Anweisungen und eine Persona für eine gesamte Konversation fest, die typischerweise vor dem Endbenutzer verborgen bleibt, während die gewöhnliche Konversationseingabe oft als Benutzer-Prompt bezeichnet wird. Bei der Bild- und Videogenerierung gibt ein Negativ-Prompt an, was aus der Ausgabe ausgeschlossen werden soll, getrennt vom hauptsächlichen beschreibenden Prompt. Prompts, die ausgearbeitete Beispiele des gewünschten Eingabe-Ausgabe-Verhaltens enthalten, werden als Few-Shot-Learning-Prompts beschrieben, im Gegensatz zu Zero-Shot-Prompts, die nur eine Anweisung liefern.
Prompt-Engineering
Die Praxis, Prompts gezielt zu gestalten, um zuverlässig bessere Ausgaben zu erzielen, ist als Prompt-Engineering bekannt. Techniken wie das Chain-of-Thought-Prompting, bei dem ein Modell gebeten wird, vor der Antwort Schritt für Schritt zu argumentieren, entstanden aus der empirischen Beobachtung, dass Formulierung und Struktur eines Prompts die Ausgabequalität eines Modells erheblich verändern können, selbst wenn das zugrunde liegende Modell unverändert bleibt. Diese Empfindlichkeit steht in engem Zusammenhang mit dem In-Context-Learning, der Fähigkeit von Sprachmodellen, ihr Verhalten basierend auf Informationen im Prompt selbst anzupassen, ohne dass eine Aktualisierung ihrer zugrunde liegenden Gewichte erfolgt.
Risiken
Da Prompts die primäre Schnittstelle sind, über die Benutzer und zunehmend auch externe Daten das Verhalten eines Modells steuern, stellen sie auch eine bedeutende Angriffsfläche dar. Ein Jailbreak ist ein Prompt, der dazu entwickelt wurde, die Sicherheitsschulung eines Modells zu umgehen, während Prompt-Injection sich auf bösartige Anweisungen bezieht, die in Inhalten versteckt sind, die ein Modell verarbeitet, wie etwa einer Webseite oder einem Dokument, und die das Verhalten eines KI-Systems ohne Wissen des Benutzers kapern können. Prompt-Injection ist zu einem besonders ernsten Anliegen geworden, da KI-Agenten-Systemen die Fähigkeit gegeben wird, reale Aktionen auszuführen, da eine erfolgreiche Injection dazu führen kann, dass ein Agent seine Werkzeuge missbraucht, anstatt lediglich schlechten Text zu erzeugen.
Bedeutung
Die zentrale Rolle von Prompts bei der Nutzung generativer KI-Systeme hat informelle Gemeinschaften und Marktplätze hervorgebracht, die sich dem Teilen, Verfeinern und Handeln effektiver Prompts widmen, neben akademischem Interesse daran zu verstehen, warum bestimmte Formulierungen gelingen oder scheitern. Einige Forscher argumentieren, dass mit zunehmender Leistungsfähigkeit von Modellen und ihrer besseren Fähigkeit, Absichten zu erschließen, der Wert manueller Prompt-Gestaltung im Verhältnis zu breiteren Praktiken abnehmen wird, die manchmal als Context-Engineering beschrieben werden, was sich auf die Kuratierung des vollständigeren Satzes an Informationen, Werkzeugen und Verlauf bezieht, auf den ein Modell Zugriff hat, nicht nur auf die unmittelbare Anweisung.