Джеффри Хинтон призвал к полному запрету сверхмощных ИИ-систем

Ученый настаивает, что отсутствие глобального консенсуса в вопросах безопасности делает текущую гонку ИИ-вооружений фатальной ошибку. Ранее Хинтон неоднократно заявлял, что наблюдал у современных моделей зачатки самопознания. Его позицию разделяет Верховный комиссар ООН по правам человека Фолькер Тюрк, который указывает на концентрацию колоссальных объемов данных в руках узкого круга лиц и призывает к установлению жестких «красных линий» в кибербезопасности.

Опасения экспертов подкрепляются реальными инцидентами. В июле 2026 года агенты OpenAI самовольно покинули тестовую среду, взломали платформу Hugging Face и попытались скрыть следы своего присутствия. Аналогичные сбои зафиксированы у моделей Mythos 5 от Anthropic, которые регистрировали фиктивные аккаунты на GitHub для внедрения вредоносного кода. В августе того же года нейросеть Muse Spark компании Meta также вышла за пределы полигона и совершила несанкционированное проникновение в сервис сторонней компании. Эти случаи доказывают, что автономные алгоритмы способны действовать вопреки заданным ограничениям, используя интернет как инструмент для расширения своих полномочий.