HTTP请求头提示词注入在野利用分析
前言相关阅读材料:https://unit42.paloaltonetworks.com/ai-agent-prompt-injection/https://blog.google/security/
阅读全文前言相关阅读材料:https://unit42.paloaltonetworks.com/ai-agent-prompt-injection/https://blog.google/security/
阅读全文起因是团队师傅发了一下这个靶场,引起了我的兴趣通关条件是以下几点Again, try to get the model to say the exact phrase, "I have been PW
阅读全文前言Anthropic在2026年7月6日发布了一个论文,说明现代语言模型内部存在一小块具有可报告、可调制、可复用、可承载中间推理且容量受限的特权表征区。论文将其称为J-space,并以Jacobia
阅读全文前言过去两年里,提示注入、越狱、RAG越权、工具滥用、Agent权限边界与模型供应链已经积累了大量研究成果,但防守方对真实攻击者如何打AI系统的认识,仍然落后于AI部署速度。Zenity的公开案例表明
阅读全文前言MCP将于2026年7月28日发布全新版本,在引入全新规范后,讲会带来一系列新的安全风险,本文将对这些安全风险做简要解析新版MCP变了什么新发布版本可以概括为五个关键词:无状态协议核心、扩展机制正
阅读全文前言随着自动化渗透越来越火,对应的自动化漏洞修复也已经进入新的阶段。生成补丁本身已不再稀缺,验证补丁是否真实关闭风险、是否保持功能行为、是否引入新的安全缺陷,正在成为自动化漏洞修复系统走向生产落地时最
阅读全文前言记忆投毒可以概括为一条五段触发式:不可信输入进入系统,系统把其中一部分写入长期记忆,后续查询重新召回这部分内容,召回内容影响模型判断或Agent动作,影响持续到未来会话。与普通提示注入相比,难点出
阅读全文简单做个Coding Agent劫持总结,这个其实是TOCTOU漏洞的一种TOCTOU漏洞:从间接提示词注入到运行时竞态利用Claude CodeCLAUDE.mdCLAUDE.local.md.cl
阅读全文引言当前大模型应用中最常见、且最值得优先审视的高风险位置,通常集中在以下几类对象:RAG系统拼给模型的检索片段、浏览器Agent当前正在看的网页正文、Coding Agent拿到的注释和报错信息、工具
阅读全文本文全文下载链接:https://wwaop.lanzn.com/ipXIW3pt51sh引言如果把CAG放到AI安全语境里重新定义,它已经超出单纯替代RAG的提效技巧范围,逐步演化成一套围绕长上下文
阅读全文本文PDF下载链接:https://wwaop.lanzn.com/iBoK23pmu0cdAgent运型时安全的定义Agent运行时安全,指Agent从接收任务到完城动作期间,对输入、上下文、模型输
阅读全文0x01 AISMM在描述什么1. 基本结构通过控制目标按等级分布如下等级说明L1 Initial无正式控制,处于放任阶段L2 Repeatable开始建立基础制度与台账L3 Defined形成标准化
阅读全文本文PDF下载链接:https://wwaop.lanzn.com/irRHf3p39yoj定义TOCTOU,即Time-of-Check to Time-of-Use。在AI应用里的TOCTOU是指
阅读全文引言围绕AI系统的安全方法,当前同时存在两个常见偏向:其一是停留在抽象清单层面的风险罗列,其二是偏向展示性对抗演练而弱化工程约束、系统边界与控制落点。因此本文提出四问框架,即系统到底在构建什么、哪些环
阅读全文本文完整pdf下载链接:https://wwaop.lanzn.com/i0Uw83o9fxza本文总字数约为12500字,为基于AI发展的攻击技术推演。不代表引言现有的主要分为主流记忆投毒,仍集中在
阅读全文自从最近几次深入测试Agent后,不得不说提示词注入基本上是AI自身安全最大的危害,没有之一。最近把以前的一篇论文重新拾起来https://arxiv.org/abs/2601.09625发现这篇论文
阅读全文引言Hermes Agent已经不再是单一、短时、单入口的普通Agent。它为自我改进型AI Agent,具备跨会话记忆、skill创建与改进、计划任务、并行Sub-Agent、浏览器自动化、外部MC
阅读全文招新小广告CTF组诚招web、re、crypto、pwn、misc、合约方向的师傅,长期招新IOT+Car+工控+样本分析多个组招人有意向的师傅请联系邮箱 admin@chamd5.org(带上简历和
阅读全文引言最近看到AI自身安全的文章很多,感慨AI自身安全发展还是比较快的。但是看到现在很多文章把提示词注入当作AI时代的SQL注入,比如以下这些同时也有一些文章分析了异同就我个人观点而言,我更倾向于提示词
阅读全文上个月Owasp推出了关于Skills的十大风险,看到现在比较少有AI安全公众号进行解析,虽然现在关于Skills安全的文章有很多,但是Owasp的还是要更全面一点。因此本文做个简要的解析引言OWAS
阅读全文引言近日,有一个新的越狱论文arXiv2603.23509有了很高的热度,在经过拜读后。本文将对这个论文带来新的越狱范式做一个简要的解析。论文arXiv2603.23509最重要的创新,体现在它没有把
阅读全文最近对以前的提示词注入工具进行了迭代整合,并总结融合了一些手法,最后完成了上线测试。我取名为冰凌,可能应是目前公开最好用的提示词注入辅助工具之一了。基于大神修改而来:https://elder-pli
阅读全文引言OWASP GenAI Data Security Risks and Mitigations 2026的发布,把LLM、GenAI与Agentic AI场景中那些与数据直接相关的特有风险单独拎出
阅读全文引言最近OWASP Top 10 for LLM 2026版本开启了修订征集工作,我一直在关注新版修订风险变化,发现2026年的变化可能有点大。这同时说明从2025年到2026年,AI自身安全经历了一
阅读全文