新当事方vLLM 在 8×MI355X 上以分离式部署让 GLM-5.3 单用户解码达 469 tok/s𝕏
vLLM10/18GLM-5.3 在 vLLM 加 8×MI355X 分离式部署下单用户解码达 469 tok/s
GLM-5.3 在 vLLM 加 8×MI355X 分离式部署下单用户解码达 469 tok/s
运行由 TileRT 与 AMD 团队完成，测试平台为 SemiAnalysis AgentX
疑似或传闻 当事方还没回应迹象指向 依据接口、代码提交等公开痕迹作出的推断转述 二手说法，不是原话
事件
| 看什么 | 现在的情况 | 依据 |
|---|---|---|
| 事实 | 测试平台为 SemiAnalysis AgentX | |
| 数字 | GLM-5.3 在 vLLM 加 8×MI355X 分离式部署下单用户解码达 469 tok/s | |
| 后果 | 需要单用户高解码的场景可把 8×MI355X 分离式部署列入候选清单 | |
| 官方 | vLLM |
产业解读
这不是投资建议。
新当事方vLLM 在 8×MI355X 上以分离式部署让 GLM-5.3 单用户解码达 469 tok/s𝕏
vLLM关注后可跟此人更新与他说过的话，需用手机号登录