Reddit热议!Kimi K3模型被压缩至594GB,1-bit量化仍保持78.9%准确率
2026-07-30 19:21:55
9次阅读
2个评论
Unsloth将Kimi K3模型压缩至1-bit(594GB),体积缩小近3倍且准确率保持78.9%,引发Reddit网友热议。多数网友对极端量化持怀疑态度,认为1-bit模型实用性存疑,但部分人好奇其与同体积模型的性能对比。也有网友指出模型原生为int4格式,Q4以上量化无损,并讨论本地运行硬件需求及未来趋势。
0
0
2026-07-30 19:22:27

回复 |
引用
2026-07-30 19:22:57

回复 |
引用
共2条
1
相关帖子
- Reddit热议!美国拟禁开源AI模型Kimi K3?
- Reddit热议!老外怎么看中国AI模型Kimi K3被指蒸馏?
- Reddit热议!Kimi K3模型发布,网友调侃“跑不动”成焦点
- Reddit热议!768GB内存+双5090跑Kimi K3仅4t/s
- Reddit热议!Kimi K3模型104B参数震撼发布,网友直呼跑不动
- Reddit热议!Kimi K3开源在即,老外怎么看?
- Reddit热议!Kimi K3百亿参数模型发布,网友热议跑不跑得动?
- Reddit热议!Kimi K3 2.8万亿参数模型发布,网友调侃显存不够用
- Reddit热议!Kimi K3倒计时发布,网友疯狂期待
- Reddit热议!Kimi K3权重发布,A100部署被吐槽“惨不忍睹”