Reddit热议!大神自制补丁让DeepSeek V4 Flash在RTX 5090上跑满1M上下文
2026-07-03 16:53:25
98次阅读
3个评论
Reddit网友da_dragon321发现DeepSeek V4 Flash因DSA Lightning索引器缺乏CUDA支持,在长上下文时显存需求高达256GB。他自行编写CUDA内核并集成补丁,成功在RTX 5090上实现1M上下文运行,峰值显存仅31GB,解码速度稳定在14t/s。网友实测多GPU配置同样有效,但需注意量化模型和内存配置。
收藏 0 0
    小陈 manage advert
    2026-07-03 16:53:58
    回复 |  引用
    小陈 manage advert
    2026-07-03 16:54:26
    回复 |  引用
    小陈 manage advert
    2026-07-03 16:54:55
    回复 |  引用
共3条 1

登录 后评论。没有帐号? 注册 一个。

小陈

manage advert
  • 0 回答
  • 0 粉丝
  • 0 关注