Attention Sink的起源找到了?清华×美团首次锁定MoE中的「超级专家」
稀疏激活的混合专家模型(MoE)通过动态路由和稀疏激活机制,极大提升了大语言模型(LLM)的学习能力,展现出显著的潜力。基于这一架构,涌现出了如 DeepSeek、Qwen 等先进的 MoE LLM。
阅读全文稀疏激活的混合专家模型(MoE)通过动态路由和稀疏激活机制,极大提升了大语言模型(LLM)的学习能力,展现出显著的潜力。基于这一架构,涌现出了如 DeepSeek、Qwen 等先进的 MoE LLM。
阅读全文合适的工作难找?最新的招聘信息也不知道?AI 求职为大家精选人工智能领域最新鲜的招聘信息,助你先人一步投递,快人一步入职!休斯敦大学休斯敦大学的计算机系非常具有学术竞争力。于2024年,CSRanki
阅读全文如何对大型语言模型进行微调以用于通用问题解答?一种颇具吸引力的方法是采用对少量高质量样本进行有监督微调的方式。近期的 LIMA(“对于对齐而言,少即是多”)研究大胆宣称,通过仅基于 1000 对
阅读全文本文是AI编程高效开发指南的第17篇,本系列预计发布100多篇,每篇不到7毛钱,本系列目前已经有183位大佬支持。本节内容使用Claude Code多智能体从零开始构建一个电商订单系统架构。Claud
阅读全文我本以为前段时间「DeepSeek 向王一博道歉」那事,已经够离谱了,没想到只是道开胃小菜,AI 又开始「愚乐」大众了。可能还有朋友没吃到这个瓜,我先简单回顾一下前情。大致剧情就是,一群粉丝对着 De
阅读全文大家好,我是HxShine今天分享一篇来自字节跳动和复旦大学的研究,标题为 《通过自动化构建环境的反馈驱动方法提升大型语言模型的工具使用能力》 (Feedback-Driven Tool-Use I
阅读全文《DeepSeek赋能职场办公与科学研究开发实践》震撼上市!本书由多位行业专家联合编写,获多位AI专家和互联网大佬倾情推荐,全彩印刷、图文并茂,收录200+真实实用的大模型案例,干货满满,覆盖职场办公
阅读全文熹妃,回宫!在全球用户的强烈呼声下,OpenAI 不得不让旧模型悉数回归,真是一出大戏啊。这段时间以来,对 GPT5 的不满似乎成了一种流行的抱怨。于是问题也随之而来:为什么满怀期待的我们,最后却大呼
阅读全文整理 | 褚杏娟 “我真的厌倦了看到那些急于求成的科技初创公司,为了讨好风投而在数据上撒谎,还贴上‘SOTA’的标签。”有网友吐槽。事情源于高人气开源智能体记忆项目 Mem0 在今年 4 月底发布的一
阅读全文AGICamp 第 007 周 AI 应用榜来啦!007 周上线 6 款应用,面向企业端(2B)和个人端(2C)的应用都有上新,面向企业端的应用包括能一站式完成可商用小程序、应用搭建的 Zion 无代
阅读全文大模型训练成本究竟能不能打下来?企业里那套老旧系统怎么才能无痛接入 AI ?怎么招到既懂大模型又通业务的复合型人才?……别再用搜索框“撞大运”了!极客时间企业版全新互动直播栏目——“AI 落地,你问我
阅读全文低调许久的百川,开源了 Baichuan-M2,32B 专注医疗开源协议为 Apache 2.0:可修改、可商用Baichuan-M2 相关信息从医疗榜单 HealthBench 来看,M2 上超
阅读全文图片来源:Inc. Z Highlights人工智能初创公司Akool荣登2025年度“Inc. 5000”榜单榜首,成为美国增长最快的私营企业。凭借卓越的AI换脸技术,赢得可口可乐的青睐,成功打造了
阅读全文图片来源:Y CombinatorZ Highlights在我看来,未来的工作将更具人性化,更互动,更多模态,也将更加有趣。我不会把学习编程作为最重要的事,我会把“学会创造”放在首位。学会用代码创造,
阅读全文图片来源:EliseAI在一项大胆举措中,AI 搜索引擎 Perplexity 主动提出以 345 亿美
阅读全文图片来源:Continua2023 年初,谷歌眼镜(Google Glass)和 Google Goggles 的创始成员、杰出工程师 David Petrou 做出了一个出人意料的决定。在为该公司效
阅读全文机器之心报道机器之心编辑部「新的风暴已经出现!」当我们谈论 AI Infra 的时候,我们在谈论什么?年初,DeepSeek 前脚带来模型在推理能力上的大幅提升,Manus 后脚就在全球范围内描绘了一
阅读全文机器之心报道编辑:+0,冷猫相信我们的读者都对 AI 顶会有非常大的关注和热情,有的读者最近可能刚从 NeurIPS rebuttal 脱身,又开始为下一篇做准备了。作为推动技术革新与思想碰撞的核心引
阅读全文本文作者为徐兴成博士,任上海人工智能实验室青年研究员,北京大学与英国牛津大学联合培养数学博士,上海市启明星项目(扬帆专项)获得者。研究方向:大模型后训练、强化学习与基础理论研究。强化学习(RL)是锻造
阅读全文新智元报道 编辑:桃子 好困【新智元导读】当AI竞赛进入深水区,一批新物种企业正在改写游戏规则。他们手握AI「通关密码」,在游戏、具身智能、可穿戴等赛道上跑出了光速增长曲线。更劲爆的是,百度智能
阅读全文新智元报道 编辑:定慧【新智元导读】战火升级!马斯克还在X上和奥特曼口水战,奥特曼反手就密谋支持一家脑机接口公司,与马斯克的Neuralink正面对决。这场关乎人类未来的科技战争,已经从AI蔓延
阅读全文新智元报道 编辑:定慧【新智元导读】马斯克宣布旗下公司取消「研究员」头衔,强调「工程师」的重要性,掀起与AI先驱LeCun关于研究与工程本质区别的激烈争论,引发业界对科技创新与组织管理战略的深入
阅读全文新智元报道 【新智元导读】2025年9月7日,新智元将迎来十岁生日!值此,新智元诚邀你加入,共同见证ASI降临。2015年9月7日—2025年9月7日,新智元星舰远航十年。2025年9月7日,新
阅读全文西风 鹭羽 发自 凹非寺量子位 | 公众号 QbitAI26岁华人学者,在数学界顶级平台当教授。他15岁考入西安交大少年班,本科期间创造神绩:16门课程100分、24门98分、30门以上95分,大一至
阅读全文分析师 刘萌媛 刘铁鹰量子位智库 | 公众号 AI123All随着AI时代的到来,上一代取得巨大成功的互联网产品都在紧密地结合大模型的能力,为用户提供焕然一新的服务和产品体验。这其中,部分产品走在了变
阅读全文梦晨 发自 凹非寺量子位 | 公众号 QbitAIAI应用又爆出大冷门事件。成立仅三年的AI初创公司Perplexity正式向谷歌发出收购要约,计划以345亿美元全现金形式收购Chrome浏览器业务。
阅读全文奕然 发自 凹非寺量子位 | 公众号 QbitAI好家伙,AI领域独角兽,已经高达498家。其中100家是在2023年成立,到现在也不到2年。它们的总估值达到了恐怖的27000亿美元,已经超过谷歌24
阅读全文梦晨 发自 凹非寺量子位 | 公众号 QbitAI首次实现“训练-推理不对称”,字节团队提出全新的语言模型训练方法:Post-Completion Learning (PCL)。在训练时让模型对自己的
阅读全文具身智能公司招聘的销售岗,比去年增长了近两倍。作者丨丁莉编辑丨陈彩娴“具身智能公司招聘的销售岗,比去年增长了近两倍。”2025年 WRC 比之往年更加人潮汹涌。这个风口上的行业透出的一隙金光吸引了无数
阅读全文