Ollaya:给 Jev 决策模型做一个「Ollama」,开源权重本地跑
Jev 类决策模型的热度正在从云端 API 蔓延到本地硬件。今天 Hacker News 榜首出现了一个叫 Ollaya 的开源项目,定位写得很清楚:像 Ollama 运行 LLM 那样,在本地运行开放权重的决策模型。一条命令 ollaya run laya,就能在自己的 CPU 或 GPU 上跑起毫秒级的类型化判断服务。这篇文章拆解它的架构、模型矩阵和部署…
Jev 类决策模型的热度正在从云端 API 蔓延到本地硬件。今天 Hacker News 榜首出现了一个叫 Ollaya 的开源项目,定位写得很清楚:像 Ollama 运行 LLM 那样,在本地运行开放权重的决策模型。一条命令 ollaya run laya,就能在自己的 CPU 或 GPU 上跑起毫秒级的类型化判断服务。这篇文章拆解它的架构、模型矩阵和部署…