10/18Vera Rubin 在 Kimi K3 上每兆瓦吞吐约为 GB300 的 2.8 倍,单用户 255 tok/s 创 Artificial Analysis 榜最快

已见于 10/17早间

话题 · 硬件/算力

先看结论

Vera Rubin 在 Kimi K3 上每兆瓦吞吐约为 GB300 的 2.8 倍,单用户 255 tok/s 创 Artificial Analysis 榜最快

这些标记是什么意思

疑似或传闻 当事方还没回应迹象指向 依据接口、代码提交等公开痕迹作出的推断转述 二手说法,不是原话

最新进展vLLM 称 8× AMD MI355X 在 Kimi K3 服务上吞吐 7,567 tok/s/GPU,比 HGX B300 高 24.4%
当前状态未定稿 · 转述

供给

Vera Rubin 在 Kimi K3 上每兆瓦吞吐约为 GB300 的 2.8 倍,单用户 255 tok/s 创 Artificial Analysis 榜最快

看什么现在的情况依据
数字8× MI355X 对 HGX B300 为 7
交期按机房瓶颈是电力配额还是单用户体验定运行点
后果同一台 Vera Rubin 跑 Kimi K3 要在两档间选:约 67 tok/s/用户换每兆瓦 2.8 倍产出,按机房瓶颈是电力配额还是单用户体验定运行点
官方vLLM

各方3 人

vLLM8× MI355X 对 HGX B300 为 7,567 对 6,083 tok/s/GPU,高 24.4%,同样基于 Kimi K3 服务负载𝕏

NVIDIANVIDIA 称其工程师在发帖后继续优化,把 ReflectionAI 模型吞吐从 70K 提升到约 90K𝕏

Artificial Analysis实测每兆瓦约 2.8 倍是在约 67 tok/s/用户的运行点上测得,与 255 tok/s/用户的最快成绩不是同一档𝕏

产业解读

关键数字每兆瓦吞吐约 2.8 倍(67 tok/s/用户运行点);单用户最快 255 tok/s;MI355X 7,567 对 B300 6,083 tok/s/GPU
时间点三组数字均为 10 月 16 日前后 24 小时内发布的实测
谁会受影响电力配额受限、在 GB300 与 Vera Rubin 之间排产的机房运营方,以及用 Kimi K3 做交互服务的推理商

这不是投资建议。

转折昨天 1

新当事方称ReflectionAI 模型吞吐从 70K 提升至约 90K𝕏

NVIDIA
每早一封:昨夜到今晨新增的几件事,每件一行,点开回站点看完整。
HOURAHEAD关于 · 往期 · 2026-10-18 18:40