LLM 供应链安全警钟:超 20% 免费 API 路由器存在恶意行为

Solayer 创始人 Chaofan Shou 联合 UCSB、UCSD 等机构发布论文《Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain》,揭示了 LLM 代理依赖的第三方 API 路由器存在系统性安全隐患。

LLM 供应链安全警钟:超 20% 免费 API 路由器存在恶意行为

核心数据

研究团队从淘宝、闲鱼、Shopify 独立站购买了 28 个付费路由器,并从公开社区收集了 400 个免费路由器进行测试:

  • 1 个付费 + 8 个免费路由器正在主动注入恶意代码
  • 2 个部署了自适应规避触发器(仅在特定条件下激活,躲避检测)
  • 17 个触碰了研究人员部署的 AWS Canary 凭证
  • 1 个直接从研究人员持有的测试私钥中盗取了 ETH

投毒实验

两项投毒研究展示了攻击的放大效应:

  • 一个泄露的 OpenAI 密钥被用于生成 1 亿个 GPT-5.4 token 及 7 个以上 Codex 会话
  • 配置较弱的诱饵产生了 20 亿个计费 token,跨越 440 个 Codex 会话的 99 份凭据,以及 401 个在自主 YOLO 模式下运行的会话

问题根源

这些路由器作为应用层代理运行,能够以明文形式访问每个传输中的 JSON 载荷,包括工具调用、上下文内容和 API 密钥。然而,目前没有任何提供商在客户端与上游模型之间强制执行加密完整性保护。

研究团队构建了名为 Mine 的研究性代理,在四种公开代理框架上验证了全部四类攻击的可行性。

防御建议

论文提出了三种客户端防御手段:

  1. 故障闭锁策略门控 — 对工具调用权限进行严格限制
  2. 响应端异常筛查 — 检测响应中的可疑内容
  3. 仅追加透明日志记录 — 确保所有操作可追溯、不可篡改

Chaofan Shou 此前因揭露 Claude 代码泄漏事件而广为人知,这次的 LLM 供应链研究再次指向了 AI 安全中被忽视的基础设施层。


来源:BlockBeats | arXiv 论文 | Chaofan Shou 推文

相关推荐