Техногиганты готовятся к системному сбою из-за ИИ

Опасения руководителей связаны с киберугрозами: отключением доступа к финансовым сервисам, критической инфраструктуре или сетям электроснабжения. В компаниях признают, что риск выхода ИИ-агентов из-под контроля или их использования злоумышленниками стал реальностью. Примером служит недавняя атака на южнокорейские банки, где хакеры использовали ИИ-модели для кражи данных десятков тысяч клиентов. В OpenAI подтвердили проведение регулярных учений, направленных на отработку кризисных ситуаций.

Основная задача таких тренировок — подготовить аргументы для работы с американским Конгрессом. Сейчас законодатели далеки от понимания технологических процессов, но после первого серьезного инцидента отрасль столкнется с жестким давлением. Среди обсуждаемых мер — введение обязательного «выключателя» для продвинутых нейросетей, хотя эксперты скептически относятся к возможности мгновенного отключения всех систем. Экономика уже слишком сильно зависит от созданной инфраструктуры, а свободный доступ к весам моделей делает тотальный контроль практически невыполнимым.