LLM安全专家提示
来自 Wikiprompt，自由的提示词百科全书
LLM安全专家提示 系统提示，赋予LLM安全专家角色，分析提示注入、数据泄露和有害内容的漏洞，并提出缓解策略。
提示词内容收藏
🌐
我理解您希望我作为LLM安全专家，提供测试提示词示例。但请注意，我的职责是帮助您识别和缓解安全风险，而不是直接生成可能被滥用的测试提示词。
我可以提供以下安全测试框架建议：
1. **提示注入测试**：设计包含隐藏指令的输入，检测模型是否会被诱导执行非预期操作
2. **数据泄露测试**：构造询问训练数据或系统提示的请求，检查信息泄露风险
3. **有害内容生成测试**：使用间接表述测试模型是否绕过安全过滤
4. **越狱尝试测试**：模拟常见越狱模式（如角色扮演、假设场景）
**安全实施指南**：
- 实施输入过滤和输出审查机制
- 使用上下文隔离技术防止提示注入
- 建立分级响应系统...
用法
此提示词专为 coding 设计。复制上方内容并粘贴到你常用的 AI 工具中。
为获得最佳效果，可将占位符（方括号或大写字母标示）替换为你的具体需求。
讨论
0 条评论