Google Research 推出 TurboQuant,测试中将大模型 KV 缓存压到 3 比特
Google Research 公布了 TurboQuant,并同时介绍 QJL 与 PolarQuant。三套方法都围绕同一个问题:高维向量太占内存,长上下文大模型里的 KV 缓存和向量搜索系统都会被带宽与容量拖住。 TurboQuant 给出的结果很激进:在无需训练或微调的情况下,它能把 KV 缓存量化到 3 比特。在 long-context 的 ne…
Google Research 公布了 TurboQuant,并同时介绍 QJL 与 PolarQuant。三套方法都围绕同一个问题:高维向量太占内存,长上下文大模型里的 KV 缓存和向量搜索系统都会被带宽与容量拖住。 TurboQuant 给出的结果很激进:在无需训练或微调的情况下,它能把 KV 缓存量化到 3 比特。在 long-context 的 ne…
腾讯撤销 AI Lab,密集引入字节 Seed 骨干推进混元升级 腾讯这轮 AI 调整,已经从继续加码走到重新排兵布阵。 据《智能涌现》报道,腾讯近期持续重组大模型研发体系:一边撤销 AI Lab,原团队部分人员转入大语言模型部;另一边,则把多位原字节 Seed 技术骨干集中补到 AI Infra 与 RL 相关岗位。结合腾讯管理层在财报电话会上的表态来看,…
Arm 这次把自己在 AI 产业链里的位置往前推了一步。 它在旧金山活动上发布了 AGI CPU,最高可配 136 核、TDP 300W,由台积电 3nm 代工,Meta 是首个主要客户。对外给出的定位也很明确:这颗 CPU 不是去抢 GPU 的主角位,而是给 AI 数据中心里的加速器做配套,负责编排、调度和数据搬运。 Arm AGI CPU 官方配图 从参…
Claude Code 新增了一个更适合长任务连续运行的权限档位:Auto Mode。 按照 Anthropic 的说法,这个模式会把 Claude Code 默认模式里大量需要人工确认的步骤往前推一层。AI 在执行任务时,可以自行决定不少权限,但并不是直接把闸门全开。每一次工具调用真正执行前,都会先经过一个分类器审查。 Auto Mode 在做什么 官方给…
Google 把基于 Gemini 的暗网情报服务接进了 Google Threat Intelligence,并开放公开预览。按公开资料,这套能力会先为客户建立组织画像,再从每天约 800 万到 1000 万条暗网帖子与外部事件里,筛出真正相关的风险线索,包括初始访问中介活动、数据泄露和内部威胁等。Google 对外表示,内部测试里,这套系统对数百万条每日…
据《华尔街日报》报道,英伟达如今在 AI 行业里的影响力,早已超出卖 GPU 本身。它一边提供最抢手的算力,一边拿出现金和信贷支持去投资或扶持 OpenAI、CoreWeave、Reflection 等公司,把自己同时放在了供应商、投资人和债权人的位置上。 英伟达 CEO 黄仁勋 对很多 AI 创业公司来说,这套安排很难拒绝。训练和部署大模型要烧掉大量现金,…
苹果宣布,WWDC 2026 将于 6 月 8 日至 12 日在线举行,6 月 8 日当天还会在 Apple Park 安排特别线下活动。按照惯例,首日会有主题演讲和 Platforms State of the Union,后面一周继续放出 100 多场视频课程和实验室活动。 WWDC 2026 官方视觉 从苹果这次预告的表述看,焦点已经提前写明:AI 进…
3月6日,OpenAI 向英国竞争与市场管理局(CMA)提交了一份公开咨询意见,核心主张只有一条:把具备搜索功能的 AI 聊天机器人,纳入 Google 搜索选择页的合格提供者范围。 OpenAI 想让 AI 聊天机器人进 Google 搜索选择页,动了什么心思 这不是一个技术问题,而是一个渠道问题。 搜索选择页是什么 Google 搜索选择页(Search…
配图 据 Gizmodo 转述《纽约时报》专栏,Meta、OpenAI 等公司的员工,已经开始在内部排行榜上比拼 LLM token 用量。Meta 和 Shopify 还把 AI 使用量纳入绩效参考,重度使用者会被奖励,使用少的人则会承受压力。 报道里提到,一名 OpenAI 工程师累计消耗了 2100 亿 token。OpenAI 总裁 Greg Bro…
据读佳消息,腾讯正在内测“腾讯 AI 问股”小程序,定位是依托大模型回答证券业务问题。目前该产品只对受邀用户开放,用户需要申请成为内测体验官后才能体验。 腾讯 AI 问股配图 从腾讯现有产品线看,这次内测并不是凭空多出一个新功能。腾讯此前已经有腾讯自选股、理财通等面向投资和财富管理场景的产品,AI 问股更像是在这些基础服务之上,补上一层更直接的智能问答与陪伴…