英伟达推出安全平台，用于监控 AI 智能体并实现闪电般快速隔离

最近，越来越多来自大型 AI 公司的报告引起了关注。这些报告描述称，他们的 AI 据说突破了原本封闭的系统，并 allegedly 入侵了其他系统。此后，人们一直在争论，这主要是为了让客户相信其 AI 能力非凡而策划的公关噱头，还是这些事件代表着真正的警示信号。

无论如何，随着 AI 智能体的能力越来越强，人们对安全问题的担忧也在不断加剧。英伟达如今希望通过其新平台解决这些担忧。据英伟达称，这个问题远没有那么简单，因为 AI 也需要访问某些文档或部分网络内容，才能有效运行。

英伟达的新安全平台名为 OpenShell，本质上是一个由两层组成的沙箱：AI 智能体会获得精确的访问权限，例如访问某个特定文件夹，而其他一切都会被屏蔽。第二层名为 Sentry，会持续监控并记录智能体的活动；据称，如果 AI 试图越过预先设定的边界，它可以在数毫秒内将其隔离。

然而，使用这个系统并没有那么简单：用户必须预先明确规定智能体可以做什么、不能做什么。一方面，这多少有些繁琐；另一方面，这也可能让 AI 无法采用用户此前未曾考虑过的创造性替代方案。

英伟达也在回应 AI 从业者的警告：AI 可能会对人类构成真正的威胁；以及他们要求放缓 AI 快速且看似无法阻挡的发展步伐的呼吁。然而，英伟达认为，AI 安全主要是一个工程问题，可以通过技术手段解决。