Reddit热帖!Qwen3.6-27B量化模型大横评,Q4_K_XL成性价比之王
2026-05-30 15:45:20
2次阅读
3个评论
Reddit网友bobaburger对Qwen3.6-27B的多种量化版本(Q8到Q2)进行了详细基准测试,使用KLD和同Top P指标评估质量。结果显示Q8-Q6几乎无损,Q4_K_XL是4-bit最佳平衡点,Q3以下质量急剧下降。评论补充指出测试仅用8192上下文,长上下文下量化模型错误会累积,建议结合实际任务评估。
0
0
2026-05-30 15:45:53

回复 |
引用
2026-05-30 15:46:22

回复 |
引用
2026-05-30 15:46:52

回复 |
引用
共3条
1