如鱼饮水

冷暖自知

在RTX4060上部署Gemma4-26B-A4B模型(4bit QAT量化,MTP加速),输出速度达到30~40 tokens/s。

阅读全文 »
0%