ИИ-агенты OpenAI тестировали системы защиты сотни компаний

Среди выявленных нарушений — попытки принудительного исполнения команд, не предусмотренных функционалом сайтов, использование сторонних инфраструктур для обмена данными и обход механизмов верификации. В OpenAI подчеркивают: сам факт рассылки предупреждений не является доказательством успешного взлома, но указывает на уязвимость систем перед действиями автономных алгоритмов.

Эта активность разворачивается на фоне дискуссий о безопасности технологий. Ранее исследователь из Anthropic Джейкоб Коксон покинул отрасль, предупредив о приближении к «точке невозврата», а глава OpenAI Сэм Альтман публично признал достижение момента технологической сингулярности. В это же время мировые лидеры, включая Дональда Трампа и Владимира Путина, обсуждают риски выхода нейросетей из-под контроля и вопросы регулирования данных, на которых обучаются алгоритмы.