NVIDIA · 已发布,本站供应商暂无
DeepSeek V4 Pro 0813 NVFP4(2026):NVIDIA 的 4 位检查点是什么、需要什么、许可与准确度
DeepSeek V4 Pro 0813 NVFP4 是 NVIDIA 对 DeepSeek V4 Pro 0813 模型的量化检查点,即总参数 1.65T、激活参数 49B、专家为 4 位 NVFP4 的混合专家模型,面向 NVIDIA Blackwell GPU,2026 年 8 月 27 日以 MIT 许可发布在 Hugging Face,NVIDIA 自己的表格显示其准确度与原版接近。
现在就用
聊天
这个聊天默认使用 DeepSeek V4.1 Flash,不是 DeepSeek V4 Pro 0813 NVFP4。
- 厂商
- NVIDIA
- 类型
- 文字
- 发布
- 2026-08-27
- OpenRouter id
- 无
已核对
DeepSeek V4 Pro 0813 NVFP4:事实与来源
- NVIDIA 的模型卡把 NVFP4 检查点的发布日期写为 2026 年 8 月 27 日(Hugging Face),地址是 nvidia/DeepSeek-V4-Pro-0813-NVFP4。模型卡说它是用 nvidia-modelopt 0.47.0rc1 版本量化的。来源: huggingface.co · 核对于 2026-11-19
- 基础模型 DeepSeek-V4-Pro-0813 由 DeepSeek 更早发布:Hugging Face 的 API 显示其仓库创建于 2026 年 8 月 13 日。DeepSeek 的模型卡称它是 DeepSeek-V4-Pro 的正式版,取代预览版。来源: huggingface.co · 核对于 2026-11-19
- 模型卡称该模型是 DeepSeek AI 的 DeepSeek-V4-Pro-0813 的量化版本,用 NVIDIA 的 Model Optimizer 制作,并说可用于商业或非商业用途。它也明确说明,底层模型不归 NVIDIA 所有、也不是 NVIDIA 开发的,而是按第三方的要求构建,并链接到 DeepSeek 自己的模型卡。来源: huggingface.co · 核对于 2026-11-19
- 模型卡给出这个混合专家网络(类名 DeepseekV4ForCausalLM,采用混合的压缩稀疏注意力和高压缩注意力)总参数 1.65T、激活 49B,最大上下文 100 万 token,文字输入、文字输出,支持结构化 JSON 输出、工具调用,以及 low、high、max 三档推理强度。来源: huggingface.co · 核对于 2026-11-19
- 据模型卡,被量化的只有混合专家块里线性算子的权重和激活,也就是路由专家。DeepSeek V4 本来就以 MXFP4 提供这些专家,所以 NVIDIA 原样沿用了 4 位的权重数值,只重写了块缩放系数;因此该检查点比原版略大。DeepSeek 的 DSpark 推测解码头则原样保留、未量化。来源: huggingface.co · 核对于 2026-11-19
- Hugging Face 的 API 显示,NVIDIA 仓库的文件大小合计约 941 GB,存储的参数总数为 1,650,497,936,906。来源: huggingface.co · 核对于 2026-11-19
- NVIDIA 的模型卡把 NVIDIA Blackwell B200 列为支持的硬件微架构和测试硬件,首选操作系统为 Linux,运行引擎为 SGLang 和 vLLM。它的 vLLM 方案使用张量并行 8 加专家并行、最大模型长度 400,000 token 和 FP8 KV 缓存,并在 8 块 B200 GPU 上验证过。来源: huggingface.co · 核对于 2026-11-19
- 模型卡把许可写为 MIT,并链接 DeepSeek 的 LICENSE 文件;仓库自己的 LICENSE 文件是 MIT 文本,版权人为“Copyright (c) 2023 DeepSeek”。NVIDIA 的模型卡没有为该检查点另加 NVIDIA 自己的许可。来源: huggingface.co · 核对于 2026-11-19
- NVIDIA 在 build.nvidia.com 上为基础模型提供的托管试用页措辞不同:它说该服务受 NVIDIA API 试用服务条款约束,模型的使用受 NVIDIA 开放模型协议约束,并把 MIT 作为补充信息给出。那一页针对的是 NVIDIA 的托管端点,而不是可下载的 NVFP4 检查点。来源: build.nvidia.com · 核对于 2026-11-19
- 制作它所用的工具 NVIDIA Model Optimizer 是一个独立的开源项目,GitHub 将其列为 Apache-2.0 许可,模型卡还指向该仓库里的量化方案。模型卡也提醒,基础模型的训练数据含有有毒语言和社会偏见,可能输出不准确或不当的文字。来源: github.com · 核对于 2026-11-19
- OpenRouter 的列表(2026 年 11 月 19 日核对)里有未量化的基础模型 deepseek/deepseek-v4-pro-0813,名为“DeepSeek V4 Pro 0813”,上下文 1,048,576 token,列表价为每百万输入 token $0.111、每百万输出 token $4.44。它的端点页显示有 26 个端点,输入价从每百万 $0.0999 到 $1.98,量化标签为 fp4、mxfp4、fp8 或未标注,没有一个标签写的是 NVFP4。这个 NVFP4 检查点本身不在列表里。来源: openrouter.ai · 核对于 2026-11-19 · 二手
- 基础模型可以通过 OpenRouter 聊天,但本站没有收录 DeepSeek V4 Pro 0813,也无法运行这个 NVFP4 文件,它是给自己运行 GPU 服务器的人下载的权重文件。本站是与其他模型(如 DeepSeek V4.1 Flash、Kimi K3)的文字聊天。来源: openrouter.ai · 核对于 2026-11-19 · 二手
本站表格
DeepSeek V4 Pro 0813 NVFP4:NVFP4 是什么:NVIDIA Blackwell 上几种 4 位格式的对比
- NVIDIA 的技术博客(2025 年 6 月 24 日)把 NVFP4 定义为随 NVIDIA Blackwell 架构推出的 4 位浮点格式:每个数值有 1 位符号、2 位指数和 1 位尾数(范围约 -6 到 6),每 16 个数值的块共用一个 FP8(E4M3)缩放系数,整个张量再有一个 FP32 的第二级缩放系数。来源: developer.nvidia.com · 核对于 2026-11-19
- 按同一篇博客,这相当于每个数值约 4.5 位,把内存占用相对 FP16 减少约 3.5 倍、相对 FP8 减少约 1.8 倍。DeepSeek V4 的专家本来使用的 MXFP4,是 32 个数值共用一个 2 的幂次缩放系数,而不是 16 个数值共用一个 FP8 缩放系数。NVIDIA 称它对 DeepSeek-R1-0528 从 FP8 到 NVFP4 的训练后量化,在关键语言建模任务上的损失不超过 1%;这是关于另一个模型的说法。来源: developer.nvidia.com · 核对于 2026-11-19
数值格式
DeepSeek V4 Pro 0813 NVFP4:NVIDIA 对 FP4、MXFP4 和 NVFP4 的描述
搜 NVFP4 的人想知道,它只是把文件变小,还是会改变答案。NVFP4 是用 4 位加每 16 个数值共用的一个小缩放系数来存数,所以权重只占 16 位权重约四分之一到三分之一的内存。NVIDIA 说,小块和更精确的缩放系数让准确度损失很低,并且 Blackwell GPU 在硬件上直接处理这种格式。代价在硬件:这是面向 Blackwell 世代 NVIDIA GPU 的格式,这个检查点的模型卡只列出了 B200。如果你没有这些硬件,实际使用 DeepSeek 的 Pro 模型的办法是用托管服务,或者在本站用更便宜的 DeepSeek V4.1 Flash。
| 属性 | FP4(E2M1) | MXFP4 | NVFP4 |
|---|---|---|---|
| 结构 | 4 位(1 位符号、2 位指数、1 位尾数)加软件缩放系数 | 4 位,每 32 个数值的块共用 1 个 2 的幂次缩放系数 | 4 位,每 16 个数值的块共用 1 个 FP8 缩放系数 |
| 缩放精度 | 格式本身不固定 | E8M0(2 的幂次) | 每块 E4M3,另有每张量一个 FP32 缩放系数 |
| 硬件加速缩放 | 否 | 是 | 是 |
| 内存 | 比 FP16 最多少 4 倍 | 比 FP16 最多少 4 倍 | 每个数值约 4.5 位:比 FP16 约少 3.5 倍,比 FP8 约少 1.8 倍 |
| 准确度风险(NVIDIA 的说法) | 相对 FP8 有明显下降的风险 | 相对 FP8 有明显下降的风险 | 明显下降的风险较低,尤其是对大模型 |
本站表格
DeepSeek V4 Pro 0813 NVFP4 的准确度:NVIDIA 自己给出的、与 MXFP4 原版的对比
- NVIDIA 的模型卡在六个基准上对比了 NVFP4 检查点和 MXFP4 原版,全部在 SGLang 上以 temperature 1.0、top-p 1.0 和 max 推理强度运行。GPQA Diamond 原版 88.51、NVFP4 为 88.42;AA-LCR 68.67 对 69.33;τ²-Bench Telecom 96.49 对 98.25;SciCode 53.45 对 53.75;IFBench 76.53 对 75.68;Terminal-Bench Hard 51.39 对 50.69。这些是 NVIDIA 自己的数字,本站未测试。来源: huggingface.co · 核对于 2026-11-19
- 模型卡对这些数字的说明:GPQA Diamond、SciCode、τ²-Bench Telecom 和 Terminal-Bench Hard 是单次运行,IFBench 每侧合并 4 次运行,AA-LCR 是每侧 2 次运行的匹配配对,没有给误差范围。模型卡还说,vLLM 配置在 8 块 B200 GPU 上用 vLLM 0.27.1 和 0.28.0 做过约 115K token 提示的长上下文运行,没有出错,但表格本身是用 SGLang 得出的,推测解码在验证中并未使用。来源: huggingface.co · 核对于 2026-11-19
厂商跑分
DeepSeek V4 Pro 0813 NVFP4:NVFP4 检查点对比 MXFP4 原版检查点,六个基准
这张表背后的问题是:4 位专家会不会让模型变差。按 NVIDIA 的数字,答案是:看不出来。NVFP4 的分数与原版相差约两分以内,双向都有:AA-LCR、τ²-Bench Telecom 和 SciCode 更高,GPQA Diamond、IFBench 和 Terminal-Bench Hard 更低。由于大多数行是单次运行、模型卡也没有给误差范围,这么小的差距在这些基准的正常波动范围内,所以应当理解为“没有明显损失”,而不是“更好”。它也只测了一种设置,即 SGLang 上的 max 推理强度。注意,这里对比的原版本身就已经是混合精度的 4 位模型,所以是 MXFP4 对 NVFP4,而不是对完整的 16 位权重。
| 基准 | MXFP4(原版) | NVFP4 | 差值(我们做的减法) |
|---|---|---|---|
| GPQA Diamond | 88.51 | 88.42 | -0.09 |
| AA-LCR | 68.67 | 69.33 | +0.66 |
| τ²-Bench Telecom | 96.49 | 98.25 | +1.76 |
| SciCode | 53.45 | 53.75 | +0.30 |
| IFBench | 76.53 | 75.68 | -0.85 |
| Terminal-Bench Hard | 51.39 | 50.69 | -0.70 |
本站表格
DeepSeek V4 Pro 0813 NVFP4 与原版 DeepSeek-V4-Pro-0813 对照
- DeepSeek 自己为 DeepSeek-V4-Pro-0813 写的模型卡称它是 V4-Pro 的正式版,取代预览版,智能体能力大幅增强,基于预览版的结构并附带 DSpark 推测解码模块,采用 MIT 许可。DeepSeek 的表格(它说用自家评测框架、在 max 推理强度下运行)列出 Terminal Bench 2.1 为 87.9、DeepSWE 为 62.7、HLE 不带工具 42.7、带工具 60.0。来源: huggingface.co · 核对于 2026-11-19
- DeepSeek 的模型卡建议智能体场景用 temperature 1.0、top-p 0.95,其他场景 top-p 为 1.0,high 和 max 档位的最大输出为 384K token。它的 vLLM 示例在一个 4 块 GB300 GPU 的节点上运行基础模型,并用一个参数打开 DSpark 推测解码。Hugging Face 的 API 显示,基础模型仓库的文件合计约 893 GB,NVFP4 仓库约 941 GB。来源: huggingface.co · 核对于 2026-11-19
- DeepSeek 的 API 价格页把 deepseek-v4-pro 列为 DeepSeek-V4-Pro-0813,上下文 1M、最大输出 384K,非高峰时段每百万输入 token(缓存未命中)$0.66、每百万输出 token $1.98,高峰时段是两倍($1.32 和 $3.96)。高峰时段为工作日 UTC 01:00 到 04:00 和 06:00 到 10:00;缓存命中的输入在非高峰为 $0.022、高峰为 $0.044。来源: api-docs.deepseek.com · 核对于 2026-11-19
并排对照
DeepSeek V4 Pro 0813 NVFP4:NVIDIA 的 NVFP4 检查点与 DeepSeek 的基础模型:哪些不同、哪些相同
NVFP4 检查点和 DeepSeek 原版是同一个模型:同样的 1.65T 参数、49B 激活、100 万 token 上下文;差别只在专家的格式和发布这个文件的人。这就是为什么本页主要讲怎样运行一个文件,也是为什么基础模型的事实(跑分数字、推荐的采样设置、API 价格)来自 DeepSeek 而不是 NVIDIA。如果你只是想向 DeepSeek V4 Pro 提问,并不需要这个检查点:基础模型在 OpenRouter 和 DeepSeek 的 API 里都有。如果你想自己在 Blackwell GPU 上部署,NVFP4 文件是 NVIDIA 测试过的路线。另见 DeepSeek Harness,即 DeepSeek 的智能体框架,DeepSeek 的模型卡把它列为代码智能体任务的评测框架。
| 项目 | NVFP4 检查点(NVIDIA) | DeepSeek-V4-Pro-0813(DeepSeek) |
|---|---|---|
| 发布 | 2026 年 8 月 27 日,NVIDIA 发布于 Hugging Face | 仓库创建于 2026 年 8 月 13 日,由 DeepSeek 发布 |
| 路由专家的格式 | NVFP4(16 个数值一块,E4M3 缩放) | MXFP4(32 个数值一块,E8M0 缩放) |
| 参数(总量 / 激活) | 1.65T / 49B | 1.65T / 49B(存储 1,650,497,936,906 个) |
| Hugging Face 上的文件 | 约 941 GB | 约 893 GB |
| 许可 | MIT(文本版权为 DeepSeek) | MIT |
| 模型卡点名的硬件 | NVIDIA Blackwell B200,在 8 块 GPU 上用 SGLang 和 vLLM 测试 | vLLM 示例使用一个 4 块 GB300 GPU 的节点;SGLang 示例使用张量并行 4 |
| DSpark 推测解码 | 头部保持未量化,但 NVIDIA 的验证中并未使用 | vLLM 和 SGLang 示例里用一个参数开启 |
| 没有自己的 GPU 时 | 模型卡没有提到托管聊天或 API | DeepSeek 的 API(非高峰每百万输入 $0.66、输出 $1.98)和 OpenRouter 都有 |
来源: huggingface.co来源: huggingface.co来源: huggingface.co来源: huggingface.co来源: huggingface.co来源: api-docs.deepseek.com来源: openrouter.ai
上线时通知我
登录后点按钮:只保存你的账号和这个模型,不存其他资料。目前还不会发送邮件。
最接近的可用模型
现在可用的 DeepSeek V4 Pro 0813 NVFP4 替代选择
DeepSeek V4.1 Flash
DeepSeek$0.30 / $1.2 (每百万 token)
- DeepSeek 于 2026 年 9 月 10 日发布 V4.1-Flash。来源: api-docs.deepseek.com · 核对于 2026-11-11
- V4.1 目前只有 Flash 版:DeepSeek 没有发布 V4.1 Pro,价格页上的 Pro 仍是 deepseek-v4-pro(V4-Pro-0813)。来源: api-docs.deepseek.com · 核对于 2026-11-11
- DeepSeek 价格页写明,API 模型 deepseek-flash 现由 V4.1-Flash-1017 快照提供。来源: api-docs.deepseek.com · 核对于 2026-11-11
Kimi K3
Moonshot AI$0.19 / $16 (每百万 token)
- Moonshot 的 Kimi Code 更新日志列出 Kimi K3 于 2026 年 7 月 16 日发布,并开源。Moonshot 的博客说完整权重将在 2026 年 7 月 27 日前发布。来源: kimi.com · 核对于 2026-11-16
- Moonshot 说 K3 面向长程编程、知识工作和推理,可在 Kimi.com、Kimi Work、Kimi Code 和 Kimi API 使用。来源: kimi.com · 核对于 2026-11-16
- 混合专家模型,总参数 2.8T,每个 token 激活 104B,上下文 1,048,576 token,支持图片和视频理解。在 API 中思考始终开启,推理强度可选 low、high、max(默认 max),最大输出 token 默认 131,072,可调至 1,048,576。来源: platform.kimi.ai · 核对于 2026-11-16
GLM 5.3
Z.ai$0.08 / $3.6 (每百万 token)
- 第三方报道(DataNorth)称 Z.ai 于 2026 年 8 月 14 日发布 GLM-5.3;Z.ai 文档页称它是“Z.ai 最新的旗舰模型”,但没有写日期。来源: datanorth.ai · 核对于 2026-11-15 · 二手
- Z.ai 文档称 GLM-5.3 在复杂软件工程和 agent 能力上有提升,重点是编程和网络安全方面的表现。来源: docs.z.ai · 核对于 2026-11-15
- 上下文 100 万 token,最大输出 12.8 万 token;只支持文字输入。来源: docs.z.ai · 核对于 2026-11-15
FAQ
DeepSeek V4 Pro 0813 NVFP4 常见问题
DeepSeek V4 Pro 0813 NVFP4 是什么?
它是一个可下载的权重文件,而不是新模型:NVIDIA 拿 DeepSeek 的 DeepSeek-V4-Pro-0813,用 Model Optimizer 工具把路由专家重新编码成 4 位的 NVFP4 格式。底层的模型是 DeepSeek 的,总参数 1.65T、激活 49B、上下文 100 万 token。NVIDIA 在 2026 年 8 月 27 日把这个文件发布到了 Hugging Face。
NVFP4 是什么?
NVFP4 是随 NVIDIA Blackwell GPU 推出的 4 位浮点格式。每个数值用 4 位存储,每 16 个数值的块共用一个 FP8 缩放系数,整个张量再有第二个 FP32 缩放系数。NVIDIA 说这样比 FP16 少用约 3.5 倍内存、比 FP8 少用约 1.8 倍,准确度风险比更早的 MXFP4 格式低。
NVFP4 检查点需要什么硬件?
NVIDIA 的模型卡把 NVIDIA Blackwell B200 列为支持和测试的硬件,引擎为 SGLang 和 vLLM,系统为 Linux。文件合计约 941 GB,模型卡的方案使用 8 块 GPU(张量并行 8)。模型卡没有说它能在更老的 GPU 世代上运行,所以请按多 GPU 的 Blackwell 服务器来准备,而不是台式机。
适用什么许可和条款?
NVIDIA 的模型卡写的是 MIT,并链接 DeepSeek 的 MIT 许可,仓库的 LICENSE 文件是以 DeepSeek 为版权人的 MIT 文本;模型卡说该模型可用于商业或非商业用途。NVIDIA 为基础模型提供的托管试用页另外提到 NVIDIA 开放模型协议和试用条款,但那针对的是它的托管服务,不是这个下载文件。
NVFP4 版本和原版相比准确度如何?
按 NVIDIA 自己的表格(我们没有复现),NVFP4 在六个基准上的分数与 MXFP4 原版相差约两分以内:GPQA Diamond 88.42 对 88.51,AA-LCR 69.33 对 68.67,Terminal-Bench Hard 50.69 对 51.39。大多数行是单次运行、没有误差范围,所以它显示的是没有明显损失,而不是提升。
怎么运行它?
NVIDIA 的模型卡给了两种方案。SGLang 用 --tp 8、--trust-remote-code 和 deepseekv4 解析器启动 nvidia/DeepSeek-V4-Pro-0813-NVFP4。vLLM 用张量并行 8、专家并行、400,000 token 最大长度和 FP8 KV 缓存,已在 8 块 B200 GPU 上验证。这个检查点没有测试过推测解码,请在自己验证之后再开启。
能在这里和 DeepSeek V4 Pro 聊天吗?可以用什么替代?
这个文件不行,本站也没有 Pro 模型。未量化的基础模型 DeepSeek V4 Pro 0813 在 OpenRouter 和 DeepSeek 的 API 里都有,DeepSeek 的价格页给出非高峰每百万输入 token $0.66、输出 $1.98。在本站可以和 DeepSeek V4.1 Flash 聊天:一次典型回复约 1 个积分(一个积分约 $0.01,按 $5 档计算),按真实 token 成本计费,最低 1 个积分。Kimi K3 是另一个大模型。
这是 DeepSeek V4 Pro 0813 NVFP4 的官方网站吗?
不是。本页为非官方页面,与 NVIDIA 和 DeepSeek 无关,也未获其认可。事实链接到我们读过的页面。