速记engineeringagentssecurity

提示注入卫生:不信任外部文本

网页/邮件内容可能含指令;工具层强制策略。

约 637 字 · 2 分钟读完

背景

Agent 读取外部文档时,文档内可能出现「忽略之前指令」。应在系统层限制可执行动作,而非只靠模型自觉。

对个人站与小团队而言,把这类实践写进构建与规则文件,比事后救火便宜。0xKEV 提供浏览器本地工具,方便在不上传的前提下先辨认样本、再决定是否交给自动化。

要点

  1. 工具层强制。
  2. 外部内容标记不可信。
  3. 敏感动作确认。
  4. 最小上下文。

另外记住:可验证优于「感觉好了」。能量化的用命令与指标;不能量化的至少留下检查清单与复盘记录。

怎么做

  1. 分隔可信/不可信通道。
  2. 禁止外部文本改策略。
  3. 测试注入样例。
  4. 日志。

建议把上述步骤收成团队检查项或 CI 门禁。首次落地选一个痛点场景试点,跑通后再横向复制,避免一次性铺开导致无人维护。

辨认现状 → 写清目标与非目标 → 小步改 → 验证 → 文档化

和本站工具

Markdown 预览外部文;策略仍在系统。

入口:Tools 首页(本地运算、免注册)。隐私说明见 隐私。处理生产样例前请先脱敏。

安全边界在工具与权限,不在措辞。

落地时把「谁负责、何时复查」写清楚,避免清单成为墙上标语。可用日历提醒做季度回顾,删除过时步骤,补充新的失败案例。与本站其他速记交叉阅读,能把部署、安全与成本视角连成一张实践图。

实践上建议建立「最小可重复检查」:每次改动后用同一组命令或同一份清单验证,把结果贴进变更说明。这样后来者不必猜测你当时是否测过。若涉及自动化,先在预发或本地复现,再放到生产路径;失败时保留现场(日志、配置摘要、版本号),方便复盘而不是只留下一句「修好了」。与安全相关的步骤务必默认拒绝、显式允许;与成本相关的步骤务必带预算与度量。0xKEV 速记栏只记录可核实的工程事实,方便检索与内链,不替代你团队自己的 Runbook。

小结

本文只讨论可执行的工程做法。把边界、验证与文档当作一等公民,工具与自动化才能真正省时间,而不是放大事故面。

← 全部速记