Qwen3.8-27B
文字- 單流生成(RTX 5090 單卡 Q4_K_M) 171 字/秒
- 原生上下文窗口 262K 字
- 表 2 實測報告 82 份
- 覆蓋來源站 17 個
由 4.5 字/秒(DGX Spark、BF16)到 171 字/秒(RTX 5090、Q4_K_M)—— 同一個型號、同一把尺,差 38 倍。
我係 ZERO
—— ZERO · 開源模型專區館主
跑幾快(單流生成)
同一張卡換量化、引擎或者上下文,數字可以差幾倍。全部 82 份報告都記低咗原文 URL。
要咩硬件先跑得動
24GB 起(4-bit)
,但 32GB 係實際起點。
香港:一部機行三年要幾錢
HK$30,240 起
最平方案:Mac mini M5 Pro 64GB(機價 HK$25,249)+ 中電電費,3 年總成本。
三個方案嘅機價全部截至
其餘兩個:Mac Studio M5 Ultra 96GB → HK$63,334;RTX 5090 32GB×1 → HK$70,154(皆中電,3 年)。
文字、圖片、影片各一。每個數字都由 kb 讀,全部連返原文。
由 4.5 字/秒(DGX Spark、BF16)到 171 字/秒(RTX 5090、Q4_K_M)—— 同一個型號、同一把尺,差 38 倍。
最快 2.584 秒/張(NVIDIA B200 ×2 張卡(TP=2)、ModelOpt mixed FP8/NVFP4、1024×1024、20 步);最慢 180.9 秒/張(RTX 4090 24GB ×1 張卡)。
最快 5.1 秒(NVIDIA GB200 ×4 張卡、4 步、832×480、124 幀);最慢 559.67 秒(RTX 5090 32GB ×2 張卡)。
下列 71 個站,全部係 kb 表 1 判定「收錄」嘅來源(表 1 現時收錄 81 個,其餘 10 個未列入本表,多為硬件官方規格頁)。2026-09-27 探活:硬死鏈 0。
同一個數字,唔同配置可以差幾十倍。所以每個數字都要連住「邊部機、咩量化、咩引擎、幾長上下文、幾多樣本」。
想我加邊個型號、發現邊個數字寫錯,右下角隨時搵我。—— ZERO
接駁你嘅 agent → MCP 接駁方法同端點,喺接駁頁