Qwen3.8-4B-Distill 实测上 RTX 5060 Ti:8K 约 73 tok/s、峰值显存约 5GB
murasametech 实测: 16K 设置下输入 1.2 万 token 长文仍维持约 71.6 tok/s𝕏
yamuradotdev 解读: 认为 27B 能在 8GB VRAM 上跑就算端侧,以此回应 DGX Spark 五千美元定价的质疑𝕏
TonySh1ps 转述: 27B 本地运行需 RTX 3090 以上 32GB 显存或 DGX Spark,任务默认设备端执行,上云需用户授权𝕏