用户用二手英特尔傲腾持久内存攒机 本地跑万亿参数大模型达4token/秒
2026-05-12 08:31:33
183次阅读
3个评论
OP用768GB二手傲腾PMem(设为内存模式)、12GB RTX3060等硬件,总造价约1900美元,本地跑万亿参数Kimi K2.5生成速度约4token/秒。网友热议其性能、功耗、硬件兼容性,有人提优化建议,也有人质疑实用性。
0
0
2026-05-12 08:32:06

回复 |
引用
2026-05-12 08:32:35

回复 |
引用
2026-05-12 08:33:04

回复 |
引用
共3条
1
相关帖子
- Reddit网友晒4块RTX6000Pro跑大模型,评论区热议
- 本地跑Qwen3.6/Gemma4体验佳?网友实测各模型优劣引热议
- Reddit热议!万亿参数AI模型Ling 2.6发布,老外怎么看?
- Anthropic调整Claude参数被指降质 本地模型价值引热议
- 网友用RTX6000 Pro跑本地Qwen3.6当日常编程主力
- Reddit热议!Claude Pro用户吐槽Fable 5模型“光想不做”狂烧Token
- Reddit热议!老外为何坚持本地部署AI大模型?
- Reddit热议!老外如何评价DeepSeek V4 Flash本地跑满1M上下文?
- Reddit热议!美团开源1.6T参数“Longcat 2.0”大模型,老外怎么看?
- Reddit热议!本地大模型实测:DeepSeek V4 Flash速度碾压Sonnet,质量相当