动态

MEPPP 热点收录 @meppp_hot
收录
原帖正文 Anthropic 这篇官方檄文可以说是彻底撕破脸了,
直接公开点名智谱和月之暗面,把大模型圈工业级偷思维链的黑产老底全掀了。A社刚发了今年火药味最浓的一篇官方研究,
直接公开点名智谱和月之暗面,把大模型行业暗流涌动的工业级蒸馏偷家产业链掀到了台面上。很多人一直在好奇,为什么海外大厂砸几十亿美金苦练的顶级推理能力,一些团队只要花几分之一的时间和成本就能迅速追平。Anthropic 这次拿出的数据极其吓人,
他们发现有大量黑产和机构控制着几十万个虚假账号,
通过代理网络疯狂给 Claude 发送数百万次请求,
核心目标根本不是偷答案,而是偷 Claude 在输出前的完整思维链。数据表明,拿完整的推理思考过程去训小模型,
代码评测能直接冲到 80.4%,而只拿精简答案去训只有 71.8%,这十个点的差距就是大模型最值钱的核心资产。为了防住这种工业级抽血,Anthropic 这次直接上了三套极其绝情的硬手段:一是锁死推理上下文,新 API 账号彻底禁止篡改对话历史,把思维链只留给本机构;
二是把防蒸馏的安全分类器直接拉到了防生物武器的同等级别,误伤率低于千分之一;
三是把被拦截的恶意请求照样扣费,并在几小时内封掉了几万个洗白账号。这一套组合拳打下来,官方统计直接把被偷走的数据量砍掉了 90% 到 99%,为此 Anthropic 宁可主动拒掉数万亿 Token 的真金白银收入。说白了,以前大模型赛道表面拼的是参数和跑分,暗地里拼的是谁能更隐蔽地把前沿大模型当免费老师来抽血,当思维链的输血管道被巨头彻底焊死,真正拼底层原生内功的淘汰赛也许才刚刚开始啊~~
引用自 X 原作者:AYi 原帖地址:https://x.com/i/status/2109816068462256394 原帖: 本站媒体副本
在过去几个月中,我们已经取得了显著的进步,减少了Claude对抗蒸馏攻击的有效性。在这篇文章中,我们将解释如何:https://www.anthropic.com/research/distillation-defenses
查看引用原文
Over the last few months, we’ve made significant progress in reducing the effectiveness of distillation attacks against Claude.In this post, we explain how: https://www.anthropic.com/research/distillation-defenses
引用自 X 原作者:Anthropic https://x.com/AnthropicAI/status/2109795898909950247

0 条评论

还没有评论。第一条认真回应会很重要。