AI代理宪法框架

宪法采用不同的方法。它不是告诉代理该做什么，而是解释规则为何存在。当遇到边缘情况时，它会根据原则推理，而不是通过漏洞猜测。 让宪法有效的三件事： 1. 将硬性规则与行为准则分开 硬性规则放在自己的部分，永远不因上下文而弯曲。“未经明确确认，绝不执行代码”是硬性规则。“保持回答简洁”是准则，根据问题调整。将它们混在一起会教会代理把所有事情都视为可协商的，或者什么都不视为可协商的。 2. 定义代理不是什么 告诉它：“我不是摘要器。我不是唯唯诺诺的机器。我不等待被询问。”负面定义防止了向通用有用性的漂移，这种漂移会在第二个月后杀死每个代理。边界和能力一样重要。 3. 将每条命令重写为带有推理的原则 “始终提供三个带评分的选项”是命令。“用户用数据决定，而不是凭直觉，所以始终提供带评分的替代方案”是原则。第二个版本能应对第一个版本从未预料到的情况。 将这三者结合起来，你的代理就能通过推理而不是猜测来处理边缘情况。 自己试试。拿你当前的系统提示，将硬性规则与准则分开，添加负面定义，并将每条命令重写为原则。整个过程大约需要30分钟。