Kontextfenster-Optimierungsleitfaden

1. GPT-4-128K: Kein Informationsverlust, wenn der Kontext < 73.000 Token beträgt. Über 73.000 Token hinaus können Informationen in der Mitte um 7 %–50 % vergessen werden. 2. Claude-2.1-200K: Am besten unter 24.000 Token Kontext, danach verschlechtert sich die Leistung, nach 90.000 Token ist sie sehr schlecht. 3. Halten Sie den Kontext kurz; teilen Sie lange Texte manuell oder automatisch auf. Für GPT-4 überschreiten Sie nicht 73.000 Token (Eingabe + Ausgabe zusammen). 4. Der System-Prompt kann am Anfang oder Ende stehen; am Ende ist er besser. 5. Wenn der System-Prompt am Anfang steht, halten Sie ihn bei GPT-4 unter 5 % des Kontexts; bei Claude unter 1 %. 6. Die Prompts von GPTs müssen ganz am Anfang stehen, also halten Sie sie unter 5 % (z. B. 128 * 0,05 = 6,4.000 Token).