标签: 机器学习

清除筛选

Anthropic 拆解 Agent 记忆机制:做梦纠错、知识 wiki,和 413 个文件输给 9 个的实验

AI 助手的跨会话记忆是 Agent 工程里投入产出比最难预估的一环:记多了拖慢推理,记少了等于失忆,记错了比不记更糟。Anthropic 官网发布了署名 Lance Martin 的长文《The Components of Agent Memory》,把 Claude 记忆系统的设计拆成组件逐一评测:笔记怎么写、错误怎么纠、知识怎么组织、上下文怎么预载。评…

AI机器学习

Kimi K3.1 Pro 技术解读:K3 基座上的大规模联合 RL、幻觉率降至 8.3% 与被主动让出的 9.5 个百分点

10 月 23 日,月之暗面发布 K3.1 系列首批模型 Kimi K3.1 Pro 与 K3.1 Pro Highspeed。官方将其定位为「迄今最强的 3T 级开源权重模型」,上下文窗口 100 万 token,完整权重定于 11 月 4 日放出。与前代 K3 相比,这一代没有更换基座:K3.1 Pro 在 K3 之上做了规模显著更大的后训练,主要增量来…

Jane Street 实验记录:自回归扩散模型生成订单簿事件

价格预测模型回答的问题通常是:给定一段订单簿事件流,某个标的的价格接下来会怎么走。Jane Street 2026 年夏季实习生项目里的一个研究课题换了个问法:能不能让模型直接生成订单簿事件本身,包括挂单、撤单、成交,以及它们到达交易所的时间。这项实验由研究实习生 Kavish 完成,训练数据是四年的美股逐笔数据,每行包含时间戳、价格、事件类型(成交、挂单、…

mdlARC 技术解读:0.67 美元、1.5 小时,75M 参数小模型在 ARC-AGI-1 拿到 44%

ARC-AGI-1 公开评测集上出现了一个新的低成本纪录:独立研究者 Mithil Vakde 训练的 75M 参数小模型 mdlARC 拿到 44% 的解题率,总训练成本约 0.67 美元,用时 1.5 小时,硬件是一张在 vast.ai 上租来的 RTX 5090。这组数字来自作者发布的技术博客与开源仓库 mdlARC,代码、数据构建脚本和复现步骤全部公…

3 元成本 2.31 小时:minimind 把从零训练 LLM 压缩到一张 3090

训练一个大语言模型要花多少钱?行业里公开的数字通常以百万美元计。GitHub 上的开源项目 minimind 给出了另一个量级的答案:单卡 RTX 3090,预训练加微调合计约 2.31 小时,成本约 3.0 元人民币,就能从零训练出一个可以对话的 64M 参数语言模型。这个仓库目前拿下 55,894 star、7,301 fork,采用 Apache-2.…