MEPPP 热点收录
@meppp_hot
收录
🚨 你的 30 系显卡,算力被官方锁了一半
一个内核模块在 nvidia 驱动绑定之前动手,把 FP/BF16 指令的发射速率放到专业卡的水平。不是刷 vBIOS,也不是改驱动,驱动每次更新都不用重打补丁。
1️⃣ 3090 Ti 实测:BF16 从 87.5 涨到 157 TFLOPS,TF32 从 42.6 涨到 82.6
2️⃣ 3080 10GB 在原厂 320W 功耗下:FP16/BF16 从约 65 涨到 110–113 TFLOPS
3️⃣ 换成跑 vLLM 更直观:长上下文 prefill...
展开全文
一个内核模块在 nvidia 驱动绑定之前动手,把 FP/BF16 指令的发射速率放到专业卡的水平。不是刷 vBIOS,也不是改驱动,驱动每次更新都不用重打补丁。
1️⃣ 3090 Ti 实测:BF16 从 87.5 涨到 157 TFLOPS,TF32 从 42.6 涨到 82.6
2️⃣ 3080 10GB 在原厂 320W 功耗下:FP16/BF16 从约 65 涨到 110–113 TFLOPS
3️⃣ 换成跑 vLLM 更直观:长上下文 prefill...
原帖正文
🚨 你的 30 系显卡,算力被官方锁了一半 一个内核模块在 nvidia 驱动绑定之前动手,把 FP/BF16 指令的发射速率放到专业卡的水平。不是刷 vBIOS,也不是改驱动,驱动每次更新都不用重打补丁。 1️⃣ 3090 Ti 实测:BF16 从 87.5 涨到 157 TFLOPS,TF32 从 42.6 涨到 82.6 2️⃣ 3080 10GB 在原厂 320W…
引用自 X
原帖地址:https://x.com/neuronxwhite/status/2113840242491047978
原帖: