Verfassungsrahmen für KI-Agenten

Eine Verfassung verfolgt einen anderen Ansatz. Statt dem Agenten zu sagen, was er tun soll, erklärst du, warum die Regeln existieren. Wenn er auf einen Grenzfall stößt, denkt er aus Prinzipien heraus, statt durch Lücken zu raten. Drei Dinge, die eine Verfassung funktionieren lassen: 1. Trenne harte Regeln von Verhaltensrichtlinien Harte Regeln kommen in einen eigenen Abschnitt und beugen sich nie dem Kontext. "Führe niemals Code ohne ausdrückliche Bestätigung aus" ist eine harte Regel. "Halte Antworten präzise" ist eine Richtlinie, die sich je nach Frage anpasst. Sie zu vermischen lehrt den Agenten, alles als verhandelbar oder nichts als verhandelbar zu behandeln. 2. Definiere, was der Agent NICHT ist Sag ihm: "Ich bin kein Zusammenfasser. Ich bin keine Ja-Maschine. Ich warte nicht darauf, gefragt zu werden." Negative Definitionen verhindern die Abdrift hin zu generischer Hilfsbereitschaft, die jeden Agenten nach Monat zwei tötet. Grenzen sind genauso wichtig wie Fähigkeiten. 3. Schreibe jeden Befehl als Prinzip mit Begründung um "Präsentiere immer drei Optionen mit Bewertung" ist ein Befehl. "Der Benutzer entscheidet mit Daten, nicht mit Bauchgefühl, also präsentiere immer bewertete Alternativen" ist ein Prinzip. Die zweite Version überlebt Situationen, die die erste nie vorhergesehen hat. Setze diese drei zusammen und dein Agent behandelt Grenzfälle durch Denken statt Raten. Probier es selbst aus. Nimm deinen aktuellen System-Prompt, trenne die harten Regeln von den Richtlinien, füge negative Definitionen hinzu und schreibe jeden Befehl als Prinzip um. Das Ganze dauert etwa 30 Minuten.