e-means 拆解:Meta FAIR 给 k-means 换上指数滑动平均,十分之一轮数拿到更低损失
11 月 6 日,Meta FAIR 团队放出了 k-means 的新实现 e-means:论文挂在 arXiv(编号 2611.09501),代码直接合进了 FAISS 仓库的 contrib/emeans 目录。作者名单里有 Hugo Touvron、Matthijs Douze、Hervé Jégou 这批 FAIR 老兵。结果分三层: 轮数:达到 L…
11 月 6 日,Meta FAIR 团队放出了 k-means 的新实现 e-means:论文挂在 arXiv(编号 2611.09501),代码直接合进了 FAISS 仓库的 contrib/emeans 目录。作者名单里有 Hugo Touvron、Matthijs Douze、Hervé Jégou 这批 FAIR 老兵。结果分三层: 轮数:达到 L…
AI 助手的跨会话记忆是 Agent 工程里投入产出比最难预估的一环:记多了拖慢推理,记少了等于失忆,记错了比不记更糟。Anthropic 官网发布了署名 Lance Martin 的长文《The Components of Agent Memory》,把 Claude 记忆系统的设计拆成组件逐一评测:笔记怎么写、错误怎么纠、知识怎么组织、上下文怎么预载。评…
11 月 2 日,MIT CSAIL 的 Rikiya Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab(DSPy 框架第一作者)发布博客《Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights》…
价格预测模型回答的问题通常是:给定一段订单簿事件流,某个标的的价格接下来会怎么走。Jane Street 2026 年夏季实习生项目里的一个研究课题换了个问法:能不能让模型直接生成订单簿事件本身,包括挂单、撤单、成交,以及它们到达交易所的时间。这项实验由研究实习生 Kavish 完成,训练数据是四年的美股逐笔数据,每行包含时间戳、价格、事件类型(成交、挂单、…
2026 年 9 月 16 日,微软 AI 负责人 Mustafa Suleyman 在个人网站发表《A warning about "model welfare"》,开篇第一句是:AI 没有意识,它们不会感受、不会体验、不会受苦,它们是「序列补全引擎」。文章点名 Anthropic 的「模型福利」(model welfare)计划,反对赋予 AI 任何道德…
ARC-AGI-1 公开评测集上出现了一个新的低成本纪录:独立研究者 Mithil Vakde 训练的 75M 参数小模型 mdlARC 拿到 44% 的解题率,总训练成本约 0.67 美元,用时 1.5 小时,硬件是一张在 vast.ai 上租来的 RTX 5090。这组数字来自作者发布的技术博客与开源仓库 mdlARC,代码、数据构建脚本和复现步骤全部公…
训练一个大语言模型要花多少钱?行业里公开的数字通常以百万美元计。GitHub 上的开源项目 minimind 给出了另一个量级的答案:单卡 RTX 3090,预训练加微调合计约 2.31 小时,成本约 3.0 元人民币,就能从零训练出一个可以对话的 64M 参数语言模型。这个仓库目前拿下 55,894 star、7,301 fork,采用 Apache-2.…