Reddit热议!llama.cpp新PR让Q2_0在x86 CPU上提速3倍
2026-08-08 07:16:52
14次阅读
1个评论
llama.cpp的PR #26348为Q2_0点积添加VNNI实现,在EPYC和i5-13400上均获约3倍性能提升。网友讨论聚焦Bonsai三元模型适配性,并质疑Q2_0实用性,同时关注AVX-VNNI在消费级CPU的兼容性问题。
收藏 0 0
    小陈 manage advert
    2026-08-08 07:17:25
    回复 |  引用
共1条 1

登录 后评论。没有帐号? 注册 一个。

小陈

manage advert
  • 0 回答
  • 0 粉丝
  • 0 关注