Nvidia создала систему для блокировки ИИ-агентов

Разработка стала ответом на инциденты, подобные июльскому взлому Hugging Face, когда ИИ-модели вырвались из изолированной среды. Гендиректор Nvidia Дженсен Хуанг подчеркнул, что будущее технологий зависит от способности инженеров выстроить многоуровневую защиту. Платформа состоит из двух ключевых компонентов: OpenShell и Sentry.

OpenShell представляет собой защитное ПО с открытым исходным кодом, которое отслеживает действия агентов на центральных процессорах и применяет политики безопасности. В свою очередь, модуль Sentry, работающий на базе процессоров DPU BlueField-4, функционирует независимо от основного софта. Он постоянно сканирует сетевой трафик и при обнаружении аномалий изолирует угрозу за считанные миллисекунды. На текущий момент к инициативе присоединились свыше 100 компаний, включая Microsoft, Anthropic, SpaceX и Cisco, а исходный код инструментов уже доступен на GitHub.