Хинтон допустил, что ИИ способен атаковать энергосистему и вызвать масштабное отключение электричества или привести к сбою, который парализует финансовую систему на неделю. По его оценке, уже к 2040 году — возможно, раньше — станет ясно, удастся ли обществу контролировать риски технологии и добиться «радикального изобилия». Другой сценарий, предупредил ученый, грозит ростом неравенства, культурными кризисами и массовой безработицей. «Возможно, нам было бы лучше вообще никогда не создавать ИИ», — сказал он.
Хинтону 78 лет, он занимается исследованиями ИИ около 44 лет. В 1970 году ученый заложил основы концепции нейронных сетей, а в 2023-м ушел из Google, чтобы свободнее говорить о рисках искусственного интеллекта. Его интервью вышло перед премьерным показом документального фильма об ИИ с участием Хинтона и его бывшего коллеги Демиса Хассабиса.
Ученый раскритиковал руководителей крупных ИИ-компаний за стремление наращивать долю рынка и выпускать все более мощные модели. Хинтон заявил, что «совсем не доверяет» главе OpenAI Сэму Альтману. О Марке Цукерберге, Илоне Маске и Альтмане он сказал: «Они понимают риски, но им наплевать — им нужны деньги».
В качестве меры защиты Хинтон предложил обязать компании проводить независимую проверку передовых моделей до их выпуска — по аналогии с одобрением лекарств. По его словам, разработчики должны доказывать независимому органу, что модель приносит больше пользы, чем вреда. При этом ученый сохраняет осторожный оптимизм: «Мое чутье подсказывает, что мы все еще контролируем ситуацию».
Комментарии (0)
Пока нет комментариев. Будьте первым!