提示注入防护不是一句“忽略指令”:建立数据与控制边界
来自网页、邮件和文件的内容都应视为不可信数据,不能自动获得工具授权。
核心判断
来自网页、邮件和文件的内容都应视为不可信数据,不能自动获得工具授权。
落地步骤
标记来源;隔离解析;限制工具;高风险二次确认;记录证据。
完成前检查
确认负责人、数据与权限边界、失败恢复、可观测信号和回滚条件;用一次真实样例完成端到端验证,再扩大范围。
一手资料
https://owasp.org/www-project-top-10-for-large-language-model-applications/
DISCUSSION
文章讨论
0 条评论
