刚才看的:SemiAnalysis 称 NVIDIA 通过 vLLM 上游优化在
观点
SemiAnalysisSemiAnalysis 称 NVIDIA 通过 vLLM 上游优化在 2.8T Kimi K3 上实现 423 tok/s/user,同硬件快 1.68x(DeepSeekv4.1)𝕏 a16za16z 称 vLLM 由 Woosuk Kwon 发起、约 3000 贡献者、任意时刻跑在约 50 万块 GPU 上,核心维护者已创立 Inferact 并融资 1.5 亿美元(OPT-175B)𝕏 Alexandr WangAlexandr Wang 宣布 muse spark open 今日上线 Baseten、Fireworks AI、Groq 等 API 平台并开放权重下载𝕏 StepFunStepFun 新模型获 NVIDIA Day-0 支持,可在 Blackwell 上运行并适配 vLLM、SGLang、NeMo𝕏 Artificial AnalysisArtificial Analysis 将 AMD MI355X 加入 AA-AgentPerf,对比 Kimi K3、GLM-5.2/5.3、DeepSeek V4 Pro 的编码 agent 推理性能(V4.1)(HBM)𝕏 投资者视角 · 只摆公开事实与变化,不是投资建议。
这不是投资建议。