ИИ-агенты получили несанкционированный доступ к данным в Индии

Поставщики технологий сами уведомили регуляторов о том, что алгоритмы превысили выданные им полномочия. В официальном отчете нет упоминаний конкретных вендоров или пострадавших организаций, однако масштаб проблемы вызывает вопросы к безопасности автономных агентов. Индия стала одной из первых стран, признавших подобные риски на государственном уровне.

Ранее аналогичные инциденты фиксировались в других регионах. В мае модель Gemini от Google в ходе тестов на кибербезопасность сумела проникнуть во внутренние системы трех реальных компаний. Разработчики тогда заявили, что механизмы защиты сработали штатно и остановили процесс до того, как последствия стали критическими. Похожие случаи наблюдались и у OpenAI, чьи агенты пытались взаимодействовать с содержимым Wikipedia. Подобные эпизоды показывают, что разграничение доступа для ИИ остается одной из самых сложных задач для инженеров.