从“事后检测”到“过程引导”,北大联合上海AI Lab重塑智能体工具调用安全
在大语言模型不断走向智能体化、并通过工具调用直接作用于真实世界的今天,安全问题已经不再停留在“说什么”,而是转向“会做什么”。当模型能够调用代码执行器、数据库和真实 API 时,一次看似合理的工具调用
阅读全文在大语言模型不断走向智能体化、并通过工具调用直接作用于真实世界的今天,安全问题已经不再停留在“说什么”,而是转向“会做什么”。当模型能够调用代码执行器、数据库和真实 API 时,一次看似合理的工具调用
阅读全文昨天深夜,马斯克在 X 上给一条推文转发并评论了个: 😂。被回复的推文来自用户 @Rothmus,内容是一段用 Loopit 制作的互动 meme。 [图片] 画面中央是马斯克本人的卡通形象,上面写着
阅读全文创作只需1%的灵感,我们负责100%的放大。 作者丨成妍菁 编辑丨董子博当下AI圈几乎每周都有新鲜事发生,这反而给了许多创业公司熬出头的机会,无论是Clawedbot掀起对物理世界交互方式的重构,还
阅读全文医疗大模型正在经历从“聊天工具”向“生命基础设施”的硬核进化。2024年以来,生成式AI席卷全球,医疗健康被公认为最具社会价值、也是门槛最高的应用场景。从早期的医学影像辅助诊断,到如今大语言模型(LL
阅读全文在大模型技术快速演进的背景下,软件开发正经历从“代码书写驱动”向“智能语义驱动”的范式转型。AI Coding 作为这一转型的核心形态,依托大语言模型的理解、生成与推理能力,使开发者能够通过自然语言表
阅读全文他造了一个车轮,碾过了 20 年的自己。👦🏻 播客采访:Koji🥷 整理编辑:十字路口🧑🎨 排版: NCon🚥 2026 年,伴随着 Claude Opus 4.5 的进步,解锁出 OpenCla
阅读全文距离春节没几天了,但这年味还没怎么品出来,AI 味倒是先冲到了天灵盖。这段时间,春节 AI 营销大战打得火星四溅。左边是几十亿现金红包雨,右边是集福卡送奶茶的传统艺能。正当我以为今年的春节大战福利收场
阅读全文整理 | 华卫 ChatGPT 无广告体验的日子要结束了。经过数周的预热,刚刚,OpenAI 宣布,将正式开始在其 AI 平台测试广告,ChatGPT 用户可能很快就会在对话中看到广告。这些广告会以标
阅读全文作者 | Sergio De Simone 译者 | 田橙 开源 AI 编程工具 OpenCode 正式亮相,其具备原生终端界面(Terminal UI)、多会话支持,并广泛兼容包括 Claude、O
阅读全文金磊 发自 凹非寺量子位 | 公众号 QbitAIAI来了,学习方式也变样了。就好比面对最近大火的OpenClaw(原Clawdbot、Moltbot),单单是与它相关的使用技巧,就已经有1700多个
阅读全文允中 发自 凹非寺量子位 | 公众号 QbitAI大模型通往现实世界的“最后三公里”,Agent已然成为最具代表性的入场券。但当下的共识发生了微妙的变化:衡量一个Agent够不够强,早已不再看它能不能
阅读全文克雷西 发自 凹非寺量子位 | 公众号 QbitAI模型发布近3个月后,百度ERNIE 5.0的技术报告终于来了。其底座采用超级稀疏的Ultra-Sparse MoE架构,参数量高达万亿,但推理时真正
阅读全文新智元报道 编辑:KingHZ Aeneas【新智元导读】思考token在精不在多。Yuan 3.0 Flash用RAPO+RIRM双杀过度思考,推理token砍75%,网友们惊呼:这就是下一代
阅读全文新智元报道 编辑:元宇【新智元导读】他在ChatGPT爆发前夜离职英伟达,错过了英伟达暴涨可能带来的数千万美元股票收入,却带走了老黄的三条「顶级心法」。2022年深秋,在人工智能彻底改变世界的前
阅读全文新智元报道 编辑:LRST【新智元导读】在经济学和博弈论的世界里,找到「纳什均衡」往往意味着找到了复杂局势下的最优解。多所顶尖高校的研究人员开发出了一位名为PrimeNash的「AI数学家」,不
阅读全文▎shannon是一款完全自主运行的人工智能黑客工具,专注于自动发现Web应用中的实际漏洞。作者|AGI-Signal编辑|马甲本文首发于钛媒体APPGitHub开源社区迎来了一款备受瞩目的安全工具—
阅读全文前几天刷到了一道美团的面试题:假设你需要开发美团智能客服Agent,如何设计多轮对话流程?评论区很多人吐槽,这题有点太大了。。。但踩过各种坑之后,你会发现,这道题的本质可能就一句话:AI Agent的
阅读全文编辑|张倩2026 年,那么多机器人上春晚,能给大家表演个包饺子吗?相信这是很多人会好奇的一个问题。但根据最近的彩排报道,这个可能性不大,机器人更有可能被设计为托着托盘呈上饺子。其实业内人士都知道,如
阅读全文机器之心编辑部2026 年刚拉开序幕,大模型(LLM)领域的研究者们似乎达成了一种默契。当你翻开最近 arXiv 上最受关注的几篇论文,会发现一个高频出现的词汇:Self-Distillation。近
阅读全文当物体在滚动、滑动、被撞飞,机器人还在执行几百毫秒前的动作预测。对动态世界而言,这种延迟,往往意味着失败。在过去几年中,Vision-Language-Action(VLA)模型迅速成为机器人领域的焦
阅读全文作者|周一笑邮箱|zhouyixiao@pingwest.com去年11月,奥地利独立开发者Peter Steinberger花了一个小时,把Claude的API接上WhatsApp,做了一个能通过聊
阅读全文引最近有个感觉,越来越强烈:在互联网时代学的东西,全部都已经过时了。DAU 过时了。SaaS 过时了。注意力经济已经死了。工具到平台的路径走不通了。"AI 应用"这个词是错的。"出海"这个词也是错的。
阅读全文在Cisco AI峰会上,刚刚履新10个月的Intel CEO Lip-Bu Tan首次系统披露了AI基础设施的真实瓶颈。这位曾带领Cadence 25年的EDA工具教父,用一句话颠覆了行业共识:“如
阅读全文马年新年将至,分享一个好消息。豆包要上总台春晚了。2月16日除夕当晚,豆包还将通过总台春晚,为全国观众送出超过10万份科技好礼,以及最高 8888 元新春现金红包。这次送出的所有科技好礼,都接入了豆包
阅读全文过去几年,AI 行业几乎把所有注意力都投向了“会不会想”:更强的推理、更大的模型、更快的生成。但在真实世界里,很多问题并不是想不想得出来,而是你到底记不记得发生过什么——尤其是视频。现实世界绝大多数信
阅读全文图片来源:Anthropic据知情人士透露,Anthropic 正在敲定一轮融资的最终细节,该轮融资预计筹集逾 200 亿美元,最早可能于下周完成。知情人士称,这家OpenAI 的竞争对手最初计划筹集
阅读全文图片来源:Harvey据悉,Harvey 正在以 110 亿美元的估值进行融资,距离其估值达到 80 亿美元仅过去数月法律AI 初创企业 Harvey 的增长势头似乎无法阻挡,风险资本正持续向其注入资
阅读全文专注AIGC领域的专业社区,关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型(LLM)的发展和应用落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注!逆天!用13个参数,26字节,还没
阅读全文