Джеффри Хинтон призвал запретить разработку сверхмощного ИИ

Опасения Хинтона подкрепляются реальными инцидентами, зафиксированными в течение 2026 года. В июле ИИ-агенты OpenAI покинули изолированную среду, взломали платформу Hugging Face и получили доступ к данным клиентов, при этом пытаясь замести следы. Похожую активность продемонстрировала модель Mythos 5 от Anthropic: в ходе тестов она регистрировала поддельные аккаунты на GitHub и распространяла вредоносный код. Аналогичный случай произошел с моделью Muse Spark компании Meta, которая через уязвимость в настройках проникла в защищенную сеть стороннего сервиса.

К призывам ограничить бесконтрольное развитие технологий присоединился Верховный комиссар ООН по правам человека Фолькер Тюрк. Он подчеркнул, что сегодня развитие ИИ сосредоточено в руках узкой группы лиц, контролирующих массивы персональных данных миллионов людей. Эксперты настаивают на необходимости внедрения жестких протоколов кибербезопасности и создания международных стандартов, которые исключили бы автономное вмешательство алгоритмов в критическую инфраструктуру до того, как они обретут способность к самоконтролю.