分类
AI训练模型
收录时间
2025-12-06

简介

Stability AI 推出的开源轻量级语言模型系列

详细介绍

2023 年 4 月,Stable Diffusion 背后的 Stability AI 把主意打到了文本上,端出了 StableLM 这套开放权重的语言模型:最早放出来的是 3B 和 7B 两个 Alpha 版本,权重直接挂在 GitHub 上,按 CC BY-SA-4.0 走,开发者能随便下、随便改。他们当时还放话说后面会有 15B 到 65B 的大块头,不过这个「预告」后来基本没兑现。

模型本身是 LLaMA 那一脉的 decoder-only 结构,上下文 4096 token,主打一个「小」——3B、7B 这种体量,普通显卡甚至笔记本就能跑起来,不像动辄要集群的大模型。它既能写文字也能写代码;官方一开始拿它和 GPT-3 比参数量,强调「小而高效」也能干不少活。

到 2023 年 9 月又补了 StableLM-3B-4E1T(1 万亿 token 训了 4 轮),2024 年初再出多语种的 Stable LM 2 1.6B,覆盖英、西、德、意、法、葡、荷七种语言。之后再没等来新版本,这个系列如今基本停在 2024 年的状态。对想自己折腾本地模型、又不想被大厂 API 绑住的人来说,仓库里的旧权重还挺够用的。