动态

MEPPP 热点收录 @meppp_hot
收录
原帖正文 🚨 你的 30 系显卡,算力被官方锁了一半一个内核模块在 nvidia 驱动绑定之前动手,把 FP/BF16 指令的发射速率放到专业卡的水平。不是刷 vBIOS,也不是改驱动,驱动每次更新都不用重打补丁。1️⃣ 3090 Ti 实测:BF16 从 87.5 涨到 157 TFLOPS,TF32 从 42.6 涨到 82.6
2️⃣ 3080 10GB 在原厂 320W 功耗下:FP16/BF16 从约 65 涨到 110–113 TFLOPS
3️⃣ 换成跑 vLLM 更直观:长上下文 prefill 快 33–36%,首字延迟降 25%,decode 基本不变
4️⃣ 矩阵乘结果比特一致,INT8 那条路径不受影响;3070、3080、3090 都有人提交了复现报告💡 只支持 Linux 和 30 系(GA102/103/104/106),40 系还没支持,Secure Boot 要关。装完在启动参数加 gpu_unlock.targets=all,重启后 journalctl -k | grep gpu_unlock 看到 unlocked 就成了。https://github.com/Zagitta/gpu-unlock你手上那张卡,敢试吗?
引用自 X 原作者:MrWhite 白先生 原帖地址:https://x.com/i/status/2113840242491047978 原帖:

0 条评论

还没有评论。第一条认真回应会很重要。