捕获AI的注意力:重复、幻觉、偏见背后的物理学
Spin-Transformer数据雕刻自旋玻璃 中笔者总结过:“从概念上的相似性、物理解释、优化参数规模角度,基于矢量自旋磁化的平均场新方程,提出了一类受物理启发的 spin-transformer
阅读全文Spin-Transformer数据雕刻自旋玻璃 中笔者总结过:“从概念上的相似性、物理解释、优化参数规模角度,基于矢量自旋磁化的平均场新方程,提出了一类受物理启发的 spin-transformer
阅读全文笔者近日在朋友圈发了如下感慨:“现在太多科幻叙事下的公司AI战略,看了让人触目惊心,可以判断这些做AI战略的人几乎不看paper的。现在的大模型做个六七十分的demo非常擅长,对企业生产场景却缺乏精准
阅读全文编者注:AI飞速发展的同时,各种新型计算也在不断取得突破,光子、量子、Ising机、热力学计算等,请参考:Ising 机 - Nature 灌水机Nature:薛定谔的猫突破迎来量子计算的圣杯AI 赋
阅读全文传统人工神经网络依赖全局调控的学习模式可能被改写。德国哥廷根大学与马克斯·普朗克动力学与自组织研究所的联合团队,日前在《美国国家科学院院刊》(PNAS)发表研究【文献1】,开发出具有生物神经元特性的"
阅读全文哈佛大学:高维回归中的Scaling Law是重整化的自然结果 从理论角度分析了重整化的物理意义,东京大学物理系学者的文章【文献1】则更接地气、更落地实用。摘要扩散模型基本原理是通过去噪白噪声污染的样
阅读全文《高维回归中的缩放和重整化》【文献1】由哈佛大学物理系、脑科学中心、工程与应用科学学院、自然与人工智能研究所多位学者共同撰写,将随机矩阵理论和自由概率用于理解高维岭回归模型的缩放与重整化行为。一、背景
阅读全文