Хакеры используют ИИ для написания эксплойтов нулевого дня

Исследователи обнаружили специфические следы машинной генерации: от вымышленных оценок уязвимостей по шкале CVSS до характерного «учебного» форматирования, копирующего структуру обучающих выборок нейросетей. В самой компании уточнили, что за инцидентом не стоит модель Google Gemini, однако не стали раскрывать название скомпрометированного приложения.

Злоумышленники эксплуатировали логическую ошибку, при которой один из компонентов системы считался доверенным и не подвергался проверке безопасности. Этот пробел позволил бы им беспрепятственно обходить механизмы защиты пользователей. В Google подчеркивают: преступные группы всё чаще прибегают к техникам prompt injection, вынуждая ИИ игнорировать этические ограничения и выступать в роли экспертов по безопасности. Помимо этого, хакеры активно загружают в языковые модели базы данных уязвимостей и используют специализированные инструменты вроде OpenClaw для отладки вредоносного ПО в изолированных средах.