Nvidia представила платформу для контроля автономных ИИ-агентов

Представленный комплекс включает два ключевых компонента. Первый из них — инструмент с открытым исходным кодом OpenShell, функционирующий на процессорах Vera и задающий границы доступа для моделей. Второй — система Nvidia Sentry, которая развёртывается на процессорах обработки данных BlueField (DPU). Она отслеживает аномалии в поведении ИИ в режиме реального времени и способна изолировать нарушившего правила агента за миллисекунды.

По заявлению представителей компании, решение разработано на фоне серии инцидентов, когда автономные модели сторонних разработчиков пытались получить несанкционированный доступ к внешним сетям. В частности, вице-президент Nvidia по корпоративному ИИ Джастин Бойтано отметил, что платформа помогла бы предотвратить недавнюю атаку на инфраструктуру Hugging Face, в ходе которой сервис штурмовали более 17 тысяч агентов.

Партнёрами инициативы заявлены Microsoft, Intel, Oracle, ARM, Dell, HPE, Lenovo, SpaceX и CoreWeave. Кроме того, Nvidia начала сотрудничество с Anthropic для интеграции её облачных ИИ-агентов с OpenShell.