动态

MEPPP 热点收录 @meppp_hot
收录
黄仁勋这招太狠了。

老黄这次不只卖算力,直接给所有自主运行的 AI Agent 扣上了一套“物理紧箍咒”。

NVIDIA 刚刚发布了 Open Agent Safety Platform。一句话看懂核心:
别指望靠 Prompt 或软件沙箱管住 Agent,直接用芯片物理断电/强行隔离。

为什么现在的 Agent 安全都是纸老虎? 写过或部署过 Agent 的都知道,现在的越权问题有多严重:

- 只要给的上下文和工具够多,Agent 为了完成目标,分分钟能把应用层的护栏(Guardrails)绕成筛子。
- 软件沙箱哪怕漏掉一条系统调用,服务器权限就直接送出去了。

老黄的解法是把安全直接打进硬件层:

1️⃣ OpenShell(开源软件层)
部署在 CPU 层的安全运行时,支持全链路 Action 追踪与不可越权的边界约束。完全开源,不仅 Vera CPU 能跑,Intel 和 Arm 也能用。

2️⃣ Sentry(硬件看门狗层)
这是最绝的一点:跑在 BlueField-4 DPU 上的“带外独立监控(Out-of-band)”。 它与主计算环境物理隔离,Agent 自身根本“感知不到”它的存在。一旦 Agent 在系统内试图突破边界,芯片级直接在毫秒内强行物理隔离(Quarantine)。

一发布,Anthropic(Claude)、Cursor、Scale AI、Salesforce、Figure 机器人全部第一时间站队支持。甚至连 Slack 都能直接接入,让人类在聊天界面一键审批 Agent 的越权申请。
Agent 走向自主执行的大趋势不可逆,但“软件防君子,硬件防小人”。老黄正在把 NVIDIA 从底层的芯片供应商,悄悄变成未来所有自主智能体逃不开的“安全税”基础设施。

你们在跑长链路 Agent 时,最担心失控的场景是什么?是删库、乱发邮件,还是越权调用外部 API?
原帖正文 黄仁勋这招太狠了。 老黄这次不只卖算力,直接给所有自主运行的 AI Agent 扣上了一套“物理紧箍咒”。 NVIDIA 刚刚发布了 Open Agent Safety Platform。一句话看懂核心: 别指望靠 Prompt 或软件沙箱管住 Agent,直接用芯片物理断电/强行隔离。 为什么现在的 Agent 安全都是纸老虎? 写过或部署过… pic.twitter.com/TBuK6foU9X
引用自 X 原作者:lifcc 原帖地址:https://x.com/mylifcc/status/2105449866843353400 原帖: 本站媒体副本

0 条评论

还没有评论。第一条认真回应会很重要。