998 美元训练 3.8B 模型：little-lm 反超 GPT-2 的完整账本1000 美元能买到什么级别的语言模型？Hugo Vergnes 用一份可复现的答案更新了这个问题的基准线：3.8B 参数的自研模型 little-lm，在 8 张租来的 B200 上训练 43 小时，花费 998 美元，CORE 评测得分 0.384。这个分数比 OpenAI 2019 年动用整个实验室资源训练的 GPT-2 1.5B（0.2565）高出超…2026/09/10开源AI大模型训练
