AI 大模型资源圈

国内外大模型资源分享、技术交流、实用工具、场景应用与资源分类整理。

  • 小陈 发表时间:2026-07-05 22:42:03 最新回复:2026-07-05 22:42:36

Reddit热帖!开发者成功将DeepSeek V4量化KV缓存修复合并,单卡RTX PRO 6000跑百万上下文 推理部署 研究方向 DeepSeek 国内模型

88
1
  • 小陈 发表时间:2026-07-05 16:43:23 最新回复:2026-07-05 16:44:55

Reddit热议!本地大模型代理工作负载的真正瓶颈:预填充压倒一切 推理部署 研究方向

87
3
  • 小陈 发表时间:2026-07-04 05:02:15 最新回复:2026-07-04 05:03:45

Reddit热议!Deepseek新突破DSpark速度飙升60-80% 推理部署 研究方向 DeepSeek 国内模型

82
3
  • 小陈 发表时间:2026-07-03 16:53:25 最新回复:2026-07-03 16:54:55

Reddit热议!大神自制补丁让DeepSeek V4 Flash在RTX 5090上跑满1M上下文 推理部署 研究方向 DeepSeek 国内模型

97
3
  • 小陈 发表时间:2026-07-03 06:32:37 最新回复:2026-07-03 06:34:07

Reddit热议!用“熵”提升LLM创意写作,成本与效果引争议 推理部署 研究方向

92
3
  • 小陈 发表时间:2026-06-29 05:28:31 最新回复:2026-06-29 05:30:02

Reddit热议!llama.cpp正式支持DFlash,AI推理速度再提升 推理部署 研究方向

104
3
  • 小陈 发表时间:2026-06-28 17:56:04 最新回复:2026-06-28 17:57:34

Reddit热议!2500美元预算跑GLM5.2,网友实测慢到崩溃 推理部署 研究方向 GLM 国内模型

96
3
  • 小陈 发表时间:2026-06-27 03:36:34 最新回复:2026-06-27 03:37:37

Reddit热议!JetSpec推测解码技术实现9.64倍无损加速 推理部署 研究方向

92
2
  • 小陈 发表时间:2026-06-26 21:08:29 最新回复:2026-06-26 21:09:03

Reddit热议!230M小模型浏览器跑出1400 tok/s,网友实测惊艳 推理部署 研究方向

130
1
  • 小陈 发表时间:2026-06-23 04:34:44 最新回复:2026-06-23 04:35:46

Reddit热帖:Gemma 4 QAT 31B在KV缓存量化上表现更佳 推理部署 研究方向

112
2
  • 小陈 发表时间:2026-06-22 11:58:20 最新回复:2026-06-22 11:59:23

Reddit热议!2018年MI50显卡跑Minimax M3,速度堪忧 推理部署 研究方向

99
2
  • 小陈 发表时间:2026-06-21 18:14:11 最新回复:2026-06-21 18:15:12

Reddit热议!老外实测GLM 5.2低量化模型,鹈鹕SVG惊艳全场 推理部署 研究方向 GLM 国内模型

112
2
  • 小陈 发表时间:2026-06-21 00:33:27 最新回复:2026-06-21 00:33:59

Reddit热议!老外怎么看跨州分布式运行744B参数AI模型? 推理部署 研究方向

110
1
  • 小陈 发表时间:2026-06-20 08:53:07 最新回复:2026-06-20 08:54:09

Reddit热议!2位量化模型GLM-5.2本地运行,准确率仅82%引争议 推理部署 研究方向 GLM 国内模型

56
2
  • 小陈 发表时间:2026-06-16 18:24:12 最新回复:2026-06-16 18:25:13

Reddit热议!KV缓存优化让Qwen 27B速度翻倍显存骤降,但网友质疑“脑损伤”? 推理部署 研究方向

56
2
  • 小陈 发表时间:2026-06-15 15:35:05 最新回复:2026-06-15 15:36:33

M3 Max 96GB成功运行Deepseek 4 Flash,速度约12tk/s 推理部署 研究方向

60
2
  • 小陈 发表时间:2026-06-15 08:48:42 最新回复:2026-06-15 08:49:14

Reddit热帖:AI模型升级引发生产环境“翻车”讨论 推理部署 研究方向

61
1
  • 小陈 发表时间:2026-06-15 03:37:04 最新回复:2026-06-15 03:38:05

Reddit热议!小米MiMo V2.5模型以1000-3000tps速度引爆社区 推理部署 研究方向

67
2
  • 小陈 发表时间:2026-06-11 15:18:27 最新回复:2026-06-11 15:19:28

Reddit热议!Google DiffusionGemma每秒1100 token引爆社区 推理部署 研究方向

62
2
  • 小陈 发表时间:2026-06-09 13:32:35 最新回复:2026-06-09 13:33:37

Reddit热帖!16GB显卡跑35B大模型,老外实测性能炸裂 推理部署 研究方向

71
2
  • 小陈 发表时间:2026-06-09 07:51:06 最新回复:2026-06-09 07:52:07

Reddit热议!中国AI公司用标准8卡服务器实现1T模型每秒千token推理 推理部署 研究方向

71
2
  • 小陈 发表时间:2026-06-08 18:59:33 最新回复:2026-06-08 19:00:06

Reddit热议!16GB内存就能跑的多模态AI来了? 推理部署 研究方向 国外模型 Gemini

66
1
  • 小陈 发表时间:2026-06-08 07:33:25 最新回复:2026-06-08 07:34:27

Reddit热议!KV缓存量化新基准:KVarN碾压TurboQuant? 推理部署 研究方向

64
2
  • 小陈 发表时间:2026-06-08 01:09:32 最新回复:2026-06-08 01:10:33

Reddit热议!Gemma 4模型MTP支持合并,推理速度飙升4倍! 推理部署 研究方向

72
2
  • 小陈 发表时间:2026-06-07 12:49:56 最新回复:2026-06-07 12:50:58

Reddit热议!12GB显卡跑出120 tok/s,Gemma 4 MTP技术实测翻倍 推理部署 研究方向

73
2
  • 小陈 发表时间:2026-06-06 19:16:53 最新回复:2026-06-06 19:17:54

Reddit热议!KVarN量化算法实测:4位精度媲美5位,显存党狂喜 推理部署 研究方向

64
2
  • 小陈 发表时间:2026-06-06 07:19:22 最新回复:2026-06-06 07:20:52

Reddit热议!谷歌Gemma 4 QAT模型实测:Q4质量竟超Q8? 推理部署 研究方向 国外模型 Gemini

67
3
  • 小陈 发表时间:2026-06-06 02:01:30 最新回复:2026-06-06 02:03:00

Reddit热议!KV缓存压缩对AI模型影响有多大? 推理部署 研究方向

71
3
  • 小陈 发表时间:2026-05-31 15:41:23 最新回复:2026-05-31 15:42:24

Reddit讨论:如何估算大模型每秒生成token数? 推理部署 研究方向

77
2
  • 小陈 发表时间:2026-05-31 09:38:48 最新回复:2026-05-31 09:39:49

Reddit热议!英伟达NVFP4量化版Qwen模型性能如何? Qwen 推理部署 研究方向 国内模型

70
2
共118条 1 2 3 4 下一页