llama.cpp项目正式合并了MTP（Multi-Token Prediction）功能，支持Qwen等模型的多token并行预测。网友实测显示，在RTX 5090上可达105-110 tok/s，Strix Halo上从4-5 tok/s提升至12 tok/s，AMD 6700xt上从28提升至48 tok/s。但部分用户指出MTP会降低prompt处理速度、增加显存占用，且对MoE模型效果有限，更适合编程等低熵任务。