Prompt Engineering ist die Praxis, die natürlichsprachlichen Eingaben zu entwerfen und zu verfeinern, die einem generativen KI-Modell gegeben werden, um zuverlässig ein gewünschtes Ergebnis zu erzeugen. Es entstand als eigenständige Fähigkeit und kurzzeitig auch als Berufsbezeichnung nach der breiten Einführung großer Sprachmodelle, da dasselbe zugrunde liegende Modell je nach Formulierung, Struktur und Rahmung einer Aufgabe deutlich unterschiedliche Ergebnisse liefern kann.
Techniken
Zu den gängigen Techniken des Prompt Engineering gehört die Bereitstellung von bearbeiteten Beispielen direkt im Prompt, bekannt als Few-Shot-Learning, im Gegensatz zur bloßen Angabe einer Anweisung, bekannt als Zero-Shot-Learning. Das Chain-of-Thought-Prompting, eingeführt in einem Paper von 2022, fordert ein Modell auf, vor seiner endgültigen Antwort Zwischenschritte der Argumentation zu erzeugen, was nachweislich die Leistung bei arithmetischen und logischen Aufgaben für ausreichend große Modelle erheblich verbessert. Weitere Techniken umfassen die Zuweisung einer Persona oder Rolle an das Modell, die Festlegung eines expliziten Ausgabeformats und die Zerlegung einer komplexen Aufgabe in eine Abfolge kleinerer Prompts. Viele dieser Techniken beruhen auf In-Context-Learning, der Fähigkeit eines Sprachmodells, sein Verhalten basierend auf Informationen im Prompt anzupassen, ohne dass sich seine zugrunde liegenden Gewichte ändern.
Entstehung als Disziplin
Das Interesse an Prompt Engineering wuchs schnell nach der Veröffentlichung von GPT-3 im Jahr 2020, dessen starke Few-Shot-Leistung das Prompt-Design zu einem praktischen Hebel für die Entwicklung von Anwendungen ohne Modell-Nachtraining machte, und beschleunigte sich weiter nach dem Start von ChatGPT im Jahr 2022, der konversationelles Prompting einem Massenpublikum zugänglich machte. Für verschiedene Anwendungsfälle entwickelten sich unterschiedliche Techniken, von strukturierten System-Prompts, die die Persona und Einschränkungen eines Assistenten konfigurieren, bis hin zu aufwendigen mehrstufigen Prompts, die verwendet werden, um Reasoning-Modelle und KI-Agenten-Systeme durch komplexe Aufgaben zu steuern.
Debatte über Beständigkeit
Kommentatoren haben bestritten, ob Prompt Engineering eine dauerhafte Disziplin oder eine Übergangsfähigkeit darstellt, die an Bedeutung verlieren wird, wenn Modelle besser darin werden, die Absicht des Nutzers aus gewöhnlicher Sprache abzuleiten. Befürworter argumentieren, dass die präzise Angabe von Anweisungen, Einschränkungen und Erfolgskriterien an Bedeutung gewinnt, je mehr Werkzeuge, längere Kontexte und mehr Autonomie den Modellen gegeben werden. Skeptiker entgegnen, dass vieles von dem, was bei früheren, weniger leistungsfähigen Modellen als Prompt Engineering galt, wie aufwendige Rollenspiel-Rahmungen oder wiederholte Betonungen, unnötig geworden ist, da neuere Modelle einfachen Anweisungen zuverlässiger folgen. Bis 2025 begannen einige Praktiker, den breiteren Begriff Context-Engineering zu verwenden, um die Disziplin zu beschreiben, nicht nur einen einzelnen Prompt zu kuratieren, sondern die gesamte Menge an Informationen, Beispielen und Werkzeugzugriff, auf die ein Modell zurückgreift, was die Verschiebung hin zu agentischen Systemen widerspiegelt, die über viele Interaktionen hinweg arbeiten, anstatt über einen einzelnen Austausch.
Sicherheitsdimension
Da Prompts der primäre Kanal sind, über den das Verhalten eines Modells gesteuert wird, hat Prompt Engineering eine defensive Entsprechung in der adversarischen Technik des Jailbreaks, bei der ein Prompt absichtlich erstellt wird, um das Sicherheitstraining eines Modells zu umgehen, anstatt eine legitime Aufgabe zu erfüllen.