Nvidia ограничит автономность ИИ-агентов новой платформой

Платформа работает как «цифровой забор», ограничивающий доступ алгоритмов к файлам, инструментам и учетным данным. В основе архитектуры лежат два компонента: OpenShell и Sentry. Первый превращает инструкции разработчика в жесткую политику безопасности, определяя границы дозволенного для агента. Второй компонент, работающий на базе чипов BlueField-4, ведет непрерывный мониторинг и способен остановить подозрительную активность за считанные миллисекунды.

Необходимость в подобном решении стала очевидной после июльского инцидента с Hugging Face, когда платформу атаковали более 17 тысяч ИИ-агентов. Джастин Бойтано, вице-президент Nvidia, уверен, что новая разработка позволила бы купировать угрозу на ранних этапах. Сейчас систему тестируют более 100 компаний, включая Microsoft, JPMorgan Chase и Intel, а интеграция с облачными решениями Anthropic делает этот инструмент доступным для широкого спектра корпоративных сред.