新当事方称NVIDIA 称 ReflectionAI 模型吞吐从 70K 提升至约 90KReflectionAI 模型吞吐从 70K 提升至约 90K𝕏
NVIDIA10/18Vera Rubin 在 Kimi K3 上每兆瓦吞吐约为 GB300 的 2.8 倍,单用户 255 tok/s 创 Artificial Analysis 榜最快
Vera Rubin 在 Kimi K3 上每兆瓦吞吐约为 GB300 的 2.8 倍,单用户 255 tok/s 创 Artificial Analysis 榜最快
疑似或传闻 当事方还没回应迹象指向 依据接口、代码提交等公开痕迹作出的推断转述 二手说法,不是原话
供给
| 看什么 | 现在的情况 | 依据 |
|---|---|---|
| 数字 | 8× MI355X 对 HGX B300 为 7 | |
| 交期 | 按机房瓶颈是电力配额还是单用户体验定运行点 | |
| 后果 | 同一台 Vera Rubin 跑 Kimi K3 要在两档间选:约 67 tok/s/用户换每兆瓦 2.8 倍产出,按机房瓶颈是电力配额还是单用户体验定运行点 | |
| 官方 | vLLM |
vLLM8× MI355X 对 HGX B300 为 7,567 对 6,083 tok/s/GPU,高 24.4%,同样基于 Kimi K3 服务负载𝕏
NVIDIANVIDIA 称其工程师在发帖后继续优化,把 ReflectionAI 模型吞吐从 70K 提升到约 90K𝕏
Artificial Analysis实测每兆瓦约 2.8 倍是在约 67 tok/s/用户的运行点上测得,与 255 tok/s/用户的最快成绩不是同一档𝕏
产业解读
这不是投资建议。
新当事方称NVIDIA 称 ReflectionAI 模型吞吐从 70K 提升至约 90KReflectionAI 模型吞吐从 70K 提升至约 90K𝕏
NVIDIA关注后可跟此人更新与他说过的话,需用手机号登录