В качестве примеров Хинтон назвал кибератаку ИИ на энергосистему, которая приведет к масштабному блэкауту, или сбой, способный на неделю парализовать финансовую систему. Ученый считает такое происшествие «тревожным звонком», сопоставимым с Чернобыльской катастрофой.
Хинтону 78 лет, он занимается исследованиями ИИ около 44 лет. В 1970 году ученый заложил основы концепции нейронных сетей, а в 2023-м ушел из Google, чтобы свободнее говорить о рисках этой технологии. Его интервью вышло перед премьерным показом документального фильма об ИИ, в котором участвовали Хинтон и его бывший коллега Демис Хассабис.
По оценке ученого, до 2040 года — возможно, раньше — станет понятно, сможет ли общество контролировать риски ИИ и добиться «радикального изобилия». Но развитие технологии может привести и к массовой безработице, росту имущественного неравенства и культурным кризисам. «Возможно, нам было бы лучше вообще никогда не создавать ИИ», — сказал Хинтон.
Он также раскритиковал руководителей крупных ИИ-компаний, заявив, что те понимают риски, но стремятся к деньгам и доле рынка. Хинтон сказал, что «совсем не доверяет» главе OpenAI Сэму Альтману, а Илону Маску, Марку Цукербергу и Альтману приписал безразличие к возможным последствиям.
В качестве меры защиты Хинтон предложил обязательное независимое тестирование передовых моделей до их выпуска — по аналогии с проверкой лекарств. По его словам, компании должны доказывать независимому органу, что ИИ-модель приносит больше пользы, чем вреда. При этом ученый признал, что пока, по его ощущению, общество «все еще контролирует ситуацию».
Комментарии (0)
Пока нет комментариев. Будьте первым!