分类
AI训练模型
收录时间
2025-12-06

简介

让开发者把小模型调准的 LLM 引擎,靠注入事实消除幻觉

详细介绍

Lamini 做的是让普通开发者也能把模型调准,官方文档现在的主打说法是构建准确率 90% 以上的 mini-agent。它的技术路线叫 Memory Tuning:往模型里注入精确的事实来消除幻觉,官方称从 10 条事实与样例起步,可以扩到 10 万条以上,并给出 95% 以上准确率的口径;因为能继续用较小的模型,延迟与成本都压得住。相关论文挂在 arXiv(编号 2406.17642),内容也被做成 deeplearning.ai 上的一门短期课。

不想碰微调的话还有一条更轻的路,叫 Memory RAG,官方说它比 Memory Tuning 更简单,用智能嵌入扩展数据表示来捕捉语义关系,在自己的数据上迭代几轮、告诉模型该往哪改,准确率从 50% 提到 90–95%。另外还有 Classifier Agent Toolkit 做分类器:类别数从 2 到 1000 以上,标称处理速度 40 万 token/秒,路由准确率 99.9%。

入口是 SDK 与 API,官方称兼容 OpenAI 的接口规范,一个接口后面可以换任意开源模型。部署分云上与自己管两种:企业可以走 air-gapped 的隔离部署,Kubernetes 安装文档也公开。新账号给 300 美元免费额度,另有带 Memory RAG 的 Playground 可以直接试 PDF 知识库。

团队背景方面,文档写他们过去二十年一直在做 LLM 的训练、微调与偏好对齐,成员参与过 GPT-3、GPT-4、Claude、Llama 3.1、PaLM、Megatron 等项目,也在 deeplearning.ai 上教过微调课程。