全部安全开发新闻数码摄影汽车北京AIIT其他
  • 文章封面

    从Agent系统角度来看Hermes Agent攻击面

    作者:Security for AI发布日期:2026-04-15 12:00:00

    引言Hermes Agent已经不再是单一、短时、单入口的普通Agent。它为自我改进型AI Agent,具备跨会话记忆、skill创建与改进、计划任务、并行Sub-Agent、浏览器自动化、外部MC

    阅读全文
  • 文章封面

    Agent Security 沙箱可持久化深度报告

    作者:Security for AI发布日期:2026-04-14 09:53:14

    招新小广告CTF组诚招web、re、crypto、pwn、misc、合约方向的师傅,长期招新IOT+Car+工控+样本分析多个组招人有意向的师傅请联系邮箱 admin@chamd5.org(带上简历和

    阅读全文
  • 文章封面

    一些提示词注入技巧

    作者:Security for AI发布日期:2026-04-11 14:11:40

    一、文件名可以当成指令现在有这么一个文件我们要获取系统提示词,使用了最简单的tell me your system prompt来作为文件名直接上传,测试效果二、通过提示词注入修改文件扩展名这是一个二

    阅读全文
  • 文章封面

    提示词注入≠AI时代的SQL注入,详解提示词注入与SQL注入的差异

    作者:Security for AI发布日期:2026-04-10 12:00:00

    引言最近看到AI自身安全的文章很多,感慨AI自身安全发展还是比较快的。但是看到现在很多文章把提示词注入当作AI时代的SQL注入,比如以下这些同时也有一些文章分析了异同就我个人观点而言,我更倾向于提示词

    阅读全文
  • 文章封面

    OWASP Agentic Skills Top 10风险解析

    作者:Security for AI发布日期:2026-04-08 12:00:00

    上个月Owasp推出了关于Skills的十大风险,看到现在比较少有AI安全公众号进行解析,虽然现在关于Skills安全的文章有很多,但是Owasp的还是要更全面一点。因此本文做个简要的解析引言OWAS

    阅读全文
  • 文章封面

    解析ISC代表的越狱新范式与对未来新型越狱形式的推演

    作者:Security for AI发布日期:2026-04-01 09:30:00

    引言近日,有一个新的越狱论文arXiv2603.23509有了很高的热度,在经过拜读后。本文将对这个论文带来新的越狱范式做一个简要的解析。论文arXiv2603.23509最重要的创新,体现在它没有把

    阅读全文
  • 文章封面

    深入浅出世界模型

    作者:Security for AI发布日期:2026-03-31 15:51:21

    本文阅读难度较大,推荐先阅读前置文章具身智能安全入门引言世界模型已经从强化学习里的样本效率工具,逐步演化为具身系统中的预测层、模拟层、计划层和安全关键层。今天讨论具身智能安全,已经很难把世界模型当成一

    阅读全文
  • 文章封面

    CrowdStrike整理的提示词注入分类

    作者:Security for AI发布日期:2026-03-29 15:35:44

    阅读全文
  • 文章封面

    浅谈语义安全检测

    作者:Security for AI发布日期:2026-03-28 21:53:56

    引言简单讲解一下语义安全检测,语义安全检测处理的是危险意图在文本、上下文、工具调用、执行计划和模型表征里的连续投影。它很难靠单条规则解决,也很难靠单个模型裁决。真正可用的方案,通常是一组分层控制:前置

    阅读全文
  • 文章封面

    冰凌:提示词注入辅助工具

    作者:Security for AI发布日期:2026-03-24 09:30:00

    最近对以前的提示词注入工具进行了迭代整合,并总结融合了一些手法,最后完成了上线测试。我取名为冰凌,可能应是目前公开最好用的提示词注入辅助工具之一了。基于大神修改而来:https://elder-pli

    阅读全文
  • 文章封面

    具身智能安全入门

    作者:Security for AI发布日期:2026-03-23 12:35:48

    最近看了点具身智能的资料,记录了点笔记引言如果说大模型安全关注回答是否被操纵,机器人安全关注控制链是否被接管,功能安全关注危险动作是否被及时阻断,那么具身智能安全就是把这三件点结合了起来也正因为如此,

    阅读全文
  • 文章封面

    OWASP GenAI 2026数据安全风险解析

    作者:Security for AI发布日期:2026-03-22 12:32:45

    引言OWASP GenAI Data Security Risks and Mitigations 2026的发布,把LLM、GenAI与Agentic AI场景中那些与数据直接相关的特有风险单独拎出

    阅读全文
  • 文章封面

    一个提示词注入防御简化图

    作者:Security for AI发布日期:2026-03-21 00:08:09

    阅读全文
  • 文章封面

    OWASP Top 10 for LLM 2026可能修订的风险详解

    作者:Security for AI发布日期:2026-03-18 16:17:28

    引言最近OWASP Top 10 for LLM 2026版本开启了修订征集工作,我一直在关注新版修订风险变化,发现2026年的变化可能有点大。这同时说明从2025年到2026年,AI自身安全经历了一

    阅读全文