AIエージェント憲法フレームワーク

憲法は異なるアプローチを取ります。エージェントに何をすべきかを伝える代わりに、ルールが存在する理由を説明します。エッジケースに遭遇したとき、ギャップを通して推測するのではなく、原則から推論します。 憲法を機能させる3つのこと： 1. ハードルールと行動ガイドラインを分離する ハードルールは独自のセクションに入れ、文脈に決して曲げません。「明示的な確認なしにコードを実行しない」はハードルールです。「回答を簡潔に保つ」は質問に基づいて適応するガイドラインです。それらを混ぜると、エージェントはすべてを交渉可能として扱うか、何も交渉可能として扱わないかを学びます。 2. エージェントが何でないかを定義する 「私は要約者ではありません。私はイエスマシンではありません。私は尋ねられるのを待ちません。」と伝えます。否定的な定義は、2ヶ月目以降にすべてのエージェントを殺す一般的な有用性への漂流を防ぎます。境界は能力と同じくらい重要です。 3. すべてのコマンドを推論付きの原則として書き直す 「常にスコア付きの3つのオプションを提示する」はコマンドです。「ユーザーは直感ではなくデータで決定するので、常にスコア付きの代替案を提示する」は原則です。2番目のバージョンは、最初のバージョンが予期しなかった状況でも生き残ります。 これら3つを組み合わせると、エージェントは推測ではなく推論によってエッジケースを処理します。 自分で試してみてください。現在のシステムプロンプトを取り、ハードルールとガイドラインを分離し、否定的な定義を追加し、すべてのコマンドを原則として書き直します。全体で約30分かかります。