英伟达已适配 DeepSeek-V4 AI 模型,GB200 NVL72 开箱性能超 150 tokens / sec / user
2026-04-25 16:25:04
来源:
IT之家
IT之家4 月 25 日消息,英伟达今天(4 月 25 日)发布博文,宣布其 NVIDIA Blackwell 平台已适配 DeepSeek-V4-Pro 与 DeepSeek-V4-Flash 两款模型,开发者可通过 NVIDIA NIM 微服务下载部署,或利用 SGLang 与 vLLM 框架进行定制化推理。
英伟达在博文指出,DeepSeek-V4-Pro 拥有 1.6T 总参数量与 49B 激活参数,定位高级推理任务;DeepSeek-V4-Flash 版本则为 284B 总参数量与 13B 激活参数,主打高速高效场景。

两款模型均支持 100 万 Token 上下文窗口与最高 38.4 万 Token 输出长度,覆盖长文本编码、文档分析等核心应用,并采用 MIT 开源协议。
实测数据显示,DeepSeek-V4-Pro 在 NVIDIA GB200 NVL72 上开箱即用性能超 150 tokens / sec / user,借助 vLLM 的 Day 0 配方,开发者可在 Blackwell B300 上快速部署。随着 Dynamo、NVFP4 及 CUDA 内核的深度优化,预期性能将进一步提升。

部署生态方面,开发者可通过 NVIDIA NIM 微服务下载部署,或利用 SGLang 与 vLLM 框架进行定制化推理。SGLang 提供低延迟、均衡及最大吞吐量三种配方;vLLM 则支持多节点扩展至 100 个以上 GPU,具备工具调用与推测解码能力。
AI智能分析该文,为您挖掘投资机会该AI功能处于试用阶段,内容仅供参考,请仔细甄别!
展开 

全部评论
机会情报
- 央行“21连增”、购金节奏进一步加快,黄金储备占比明显偏低仍有较大增持空间
- AI手机引领消费电子热潮,科技巨头持续加码!详解AI手机的机遇
- 民航“十五五”规划锚定国际一流目标,四大主线的头部企业受益
- 十五五规划重磅落地 煤炭行业迎来估值重构拐点(附概念股)
- 机构指出六氟化钨供需缺口或将持续放大
- 华龙2.0批量降本+四代堆多点布局,核电装机增长确定性强化
- SK海力士扩产HBM及下一代DRAM,供不应求,存储芯片进入超级黄金周期
- 国际金价一度站上4300美元,三大因素刺激金价!未来金价如何演变?
- “强厄尔尼诺”威胁全球粮食安全,农业战略价值凸显
- 40℃高温频现!“迎峰度夏”制冷需求激增,煤炭作为主力能源,需求持续走强
