Tipps zur Prompt-Engineering für LLM-Agenten

1. TODO-Liste neu formulieren, um die Aufmerksamkeit zu fokussieren: Bei langem Kontextfenster verliert das LLM den Fokus. Wichtige Informationen ans Ende setzen und die TODO-Liste nach jeder Teilaufgabe neu formulieren. 2. Fehlerinhalt bewahren: Bei Wiederholungsversuchen die Fehlermeldungsbeschreibung dem LLM bereitstellen, damit es weiß, was schiefging und es vermeiden kann. 3. Vorsicht vor der Few-Shot-Lernfalle: Few-Shot-Beispiele können Ergebnisse homogenisieren. Für vielfältige Agentenaufgaben zu ähnliche Beispiele vermeiden. Auch Verlaufsnachrichten wirken als Few-Shot-Beispiele; zur Vermeidung von Verzerrungen Rauschen hinzufügen, verschiedene Versionen verwenden oder ähnliche Aufgaben vermeiden. 4. Prompt-Caching für die KI-App-Entwicklung nutzen. 5. Wichtige Informationen am Anfang oder Ende des Kontexts platzieren. 6. Lange Inhalte in externen Dateien speichern und bei Bedarf lesen. 7. Antwortinhalt vorab ausfüllen, um das LLM zur Erledigung von Aufgaben oder zur Nutzung/Blockierung bestimmter Tools zu führen. 8. Genaue Fehlerinformationen bereitstellen, damit das LLM Fehler korrigieren kann. 9. Vermeiden, dass die KI durch homogenisierte Verlaufsnachrichten beeinflusst wird.