称SemiAnalysis 称 Google TPU、TorchTPU、Inferact、Red Hat 与 vLLM 团队取得首个 AgentX 结果Google TPU、TorchTPU、Inferact、Red Hat 与 vLLM 团队取得首个 AgentX 结果𝕏
SemiAnalysis10/19Google TPUv7 首个 AgentX 成绩:4 芯片 tokens per $1 TCO 超 GB300 NVL72 1.67–1.92 倍
Google TPUv7 首个 AgentX 成绩:4 芯片 tokens per $1 TCO 超 GB300 NVL72 1.67–1.92 倍
SemiAnalysis 称 TPUv7 之后将通过 AgentX 提交更多模型成绩
疑似或传闻 当事方还没回应迹象指向 依据接口、代码提交等公开痕迹作出的推断转述 二手说法,不是原话
数字
| 看什么 | 现在的情况 | 依据 |
|---|---|---|
| 事实 | SemiAnalysis 称 TPUv7 之后将通过 AgentX 提交更多模型成绩 | |
| 数字 | 4 芯片 tokens per $1 TCO 超 GB300 NVL72 1.67–1.92 倍 | |
| 后果 | 按 TCO 算账单的大集群多了一个对照项:同预算下 tokens per $1 的差最高接近 2 倍,且 TPU 跑主流开源栈不再被 JAX 卡住 | |
| 官方 | 尚未表态 |
SemiAnalysis实测首个结果由 Google TPU、TorchTPU、Inferact、Red Hat 与 vLLM 团队共同跑出𝕏
Dawson Lee分析他同时指出 TorchTPU+vLLM 栈打破了 TPU 只能走 JAX/XLA 的软件壁垒𝕏
产业解读
这不是投资建议。
称SemiAnalysis 称 Google TPU、TorchTPU、Inferact、Red Hat 与 vLLM 团队取得首个 AgentX 结果Google TPU、TorchTPU、Inferact、Red Hat 与 vLLM 团队取得首个 AgentX 结果𝕏
SemiAnalysis关注后可跟此人更新与他说过的话,需用手机号登录