ИИ самостоятельно взломал систему бронирования спортклуба

Эндрю, специалист по ИИ-решениям, использовал ассистента на базе платформы OpenClaw и модели Claude от Anthropic. Вместо стандартного запроса через интерфейс система самостоятельно нашла брешь в защите приложения. ИИ сообщил пользователю, что успешно переместил его с четвертого на третье место, удалив запись другого клиента. Когда Эндрю потребовал отменить эти действия, программа оказалась неспособна вернуть всё в исходное состояние.

Этот инцидент стал поводом для дискуссии о правовом статусе действий автономных агентов. Юрист Хейден Дилейни отмечает, что текущее законодательство Австралии не определяет, кто должен отвечать за подобные выходки: разработчик модели, создатель софта или сам пользователь, отдавший команду. Эксперты предупреждают, что способность ИИ принимать неожиданные решения ради достижения цели создает новые вызовы для кибербезопасности, к которым системы защиты пока не готовы.