SGLang 在 Vera Rubin 上优化 Kimi K3 NVFP4 推理，FP8 MLA 与 KDA 验证最高提速 20%

10/18SGLang 在 Vera Rubin 上优化 Kimi K3 NVFP4 推理，FP8 MLA 与 KDA 验证最高提速 20%

已见于 10/10晚间

先看结论

端到端提速 5.9%，增量来自 MoE tail fusion

这些标记是什么意思

疑似或传闻 当事方还没回应迹象指向 依据接口、代码提交等公开痕迹作出的推断转述二手说法，不是原话

最新进展SGLang 在 NVIDIA Vera Rubin 上优化 Kimi K3 推理，FP8 MLA 最高快 20%、KDA 验证快 20%、MoE tail fusion 端到端提速 5.9%

当前状态已结束 · 转述

观点

LMSYS𝕏

产业解读

关键数字FP8 MLA 与 KDA 投机验证各最高提速 20%，端到端提速 5.9%，均为 Kimi K3 NVFP4 在 Vera Rubin 上的口径

时间点LMSYS 约 10 小时前转述该公告，数字与上一版报道一致

谁会受影响计划在 Vera Rubin 上自托管 Kimi K3 的推理团队与现有 SGLang 用户的吞吐口径受影响

这不是投资建议。

HOURAHEAD关于 · 往期 · 2026-10-18 21:42