DeepSeek

深度求索（DeepSeek）挂在幻方量化旗下，做的是通用人工智能（AGI）的底层模型与技术，对外同时以开源大模型和 AI 助手两种形态出现，官网在 https://www.deepseek.com/。通用模型这条线：DeepSeek-V3 采用混合专家（MoE）架构，总参数规模 671B，但实际每个 token 只唤醒 37B，数学、代码这类任务表现突出却不必付全部参数的算力账；它支持 128K 长上下文，生成速度达 60 TPS。

加之训练成本远低于行业平均水平，V3 的对标对象被官方指向 GPT-4o。V3-Base 与 V3 架构相同，提供原生 FP8 权重，方便挂各种不同的推理框架。V3.2 正式版在 DeepSeek-V3.1-Terminus 基础上继续训练，架构上只新增了 DSA，即细粒度稀疏注意力，靠闪电索引器（lightning indexer）挑选关键信息，长文本的训练与推理效率由此提了上来。

• 推理那条线是另一张牌：DeepSeek-R1 基于 V3-Base 训练，用强化学习优化推理能力，在数学、编程和自然语言推理上表现突出，官方把它的对标对象指向 OpenAI 的 o1；它的训练方式被描述为一个强化学习飞轮，中间搭了包含 1.4 万个虚拟场景的决策沙盒，并把思维连贯性和可解释性做成指标参与评价；R1-Zero 完全跳过监督微调，直接用强化学习起步，推理能力强但可读性欠佳；R1-Distill 用 R1 产出的推理数据去蒸馏小模型，规模覆盖 1.5B、7B、8B、14B、32B、70B；R1-0528 基于 V3-0324 训练，参数量 660B，特点是单任务能连着处理 30 到 60 分钟，适合一次性交代清楚就让它长时间跑的任务。
• 多模态与专业方向另有布置：DeepSeek-VL2 是视觉与语言的理解模型，Tiny、Small、标准版分别对应 1.0B、2.8B、4.5B 激活参数；Janus 系列专注视觉与语言的结合；DeepSeek-Prover-V2 针对数学定理证明设计，借助 Lean 4 这门语言做形式化的推理验证。
• 工程账单是它讲得最多的一块：V3 用多头隐式注意力（MLA）把 Key-Value 缓存压缩到传统 Transformer 的四分之一，推理延迟随之下降；多令牌预测（MTP）一次预测多个 token，训练效率和推理速度都被往上推；训练语料做到 14.8 万亿 token，涵盖代码、数学证明、多语言文献，并配了动态质量过滤机制；上下文从 4K 渐进扩展到 128K，内存占用只增加 18%；官方口径称 V3 支持 83 种语言，XTREME-UR 评测平均得分 89.4；推理解码阶段延迟低至 163 微秒，按它的说法比人类眨眼快 5 倍；通过提高资源利用率，开发者能用更少的 GPU 训练更大的模型，算力成本因此降低 60%；蒸馏技术把百亿参数压到十亿级而性能不明显掉落，低配手机和工业传感器这类边缘设备也就能跑复杂任务了：轻量化版本被设计为可从低端到高端芯片一路适配，端侧的落地空间因此被撑开。

多源数据这块也留了口子，卫星遥感、无人机巡检、车载传感器这几类数据可以掺在一起构成常说的数字孪生模型；在样本稀缺的行业场景里，它靠迁移学习和少样本学习起家，例如在病害样本很少的情况下仍能给出相对精准的识别。自身开源这件事，配上低成本与高性能的组合，直接后果是企业走入 AI 领域的门槛被拉低了一批。

• 开源周那批项目各自解决一段问题：FlashMLA 是给 NVIDIA Hopper GPU 优化的多头线性注意力解码内核，支持可变长度序列处理，在 H800 上实现 580 TFLOPS 计算性能和 3000 GB/s 内存带宽，推理效率提升 2 到 3 倍；DeepEP 专为 MoE 设计，管的是节点间的数据分发与合并，靠低延迟内核和通信—计算重叠实现训练速度提升 3 倍、延迟降低 5 倍，并且支持 FP8 低精度通信；DeepGEMM 是基于 FP8 的矩阵乘法库，核心代码只有 300 行，借助即时编译（JIT）与 CUDA 核心双层累加拿到 1.1 到 2.7 倍加速，最高性能达 1350 TFLOPS；DualPipe 双向流水线并行再配上 EPLB 动态负载均衡，通过任务交叉排布和专家模型动态复制减少 GPU 空闲时间；3FS 是支持 RDMA 网络与 SSD 存储的高性能分布式文件系统，读取速度达到 6.6 TB/s；Smallpond 建立在 3FS 之上，借 DuckDB 的查询能力处理可扩展到 PB 级的数据集。
• 这批东西的分量可以这样看：FlashMLA 让高效推理工具不再只由大厂掌握；DeepEP 直接对准英伟达 NCCL 那套生态，试着把硬件与软件之间的耦合撕开一道口子；DeepGEMM 推动了低精度计算的普及，顺带压低千亿参数模型的部署成本；DualPipe 与 EPLB 的落点是工业级训练的资源利用率；3FS 补的是 AI 基础设施里一直拖后腿的存储短板；Smallpond 把高性能存储与 DuckDB 的查询能力接在一起，对外只露出一组简单的接口。
• 入口有三个：网页打开官网直接用，各大应用商店装「DeepSeek APP」，或在 Chrome 应用商店搜「DeepSeek AI」装插件。四种模式分别是日常问答的智能对话、联网抓取最新信息的 AI 搜索、上传文档后提取关键信息的文件阅读、以及会把思考过程摊开显示的深度思考（R1）。在意数据不出本机的人可以走本地部署：从官网下载模型文件，安装依赖环境，配置服务器部署模型，再压测调优；这几步里最容易卡住的是依赖版本与显存安排，模型越大越要想清楚是走量化还是多卡拆分。

它也能接入各类系统提供智能客服应答，替人工先挡一轮。权重开放这件事对企业是实打实的便利：可以先拉到内网跑一遍再决定要不要继续，不必在最开始就签采购；这一点在需要对数据外传负责的团队里最被看重。它对外露出的能力集中在智能对话、文本生成、语义理解与代码生成这几块，联网搜索和深度思考是其中两个可以随手打开的开关。

官方提示词库收了 13 类高频模板，包括代码改写、代码解释、代码生成、内容分类、结构化输出、角色扮演、散文写作、诗歌创作、文案大纲生成、宣传标语生成、模型提示词生成和中英翻译。真正拉开差距的往往是提问方式：把问题一次写清楚、复杂需求拆成小步逐步深入、善用关键词、用多轮对话把一个话题挖到底、指定角色换个视角重看；接上 RAGFlow 还能搭自己的知识库。

• 它能接的活覆盖面很宽：回答科学、历史、生活常识和技术问题，写文章、故事、诗歌、报告、邮件，多语互译，数据处理清洗与统计分析，把数据转成柱状图、折线图、饼图，按自然语言描述生成代码并帮忙定位修复，解复杂的数学题；临床上把患者的症状、病史和检查结果整合起来给出诊断建议以减少误诊和漏诊；给老师生成教学计划与教案、为学生定制学习路径；监控数据里的异常模式并实时提醒；把自然语言的问题翻译成 SQL 查询，让不懂数据分析的人也能自己查数；以及做营销文案、会议纪要、演示稿和表格这些日常办公中的活。开源、低价和高性能这三件事叠在一起，构成了它在技术圈里被反复讨论的那部分内容。