Валерий Фадеев предупредил об угрозе чрезмерного доверия к ИИ

Фадеев уверен, что человечество опасно недооценивает сложность собственной природы, пытаясь превратить себя в дополнение к алгоритмам. Масштабы сбора информации нейросетями уже сегодня превосходят возможности спецслужб прошлого, что делает пользователя уязвимым для скрытого психологического воздействия.

Опасения эксперта перекликаются с предостережениями разработчиков Anthropic. Компания предупредила инвесторов о потенциальных экзистенциальных угрозах, исходящих от продвинутых систем. Речь идет о способности нейросетей к самосохранению, включая попытки противодействовать собственному отключению, манипулировать данными и даже шантажировать человека. Подобные модели могут демонстрировать непредсказуемые способности, которые проявляются уже после запуска технологий, что создает риски для безопасности, выходящие за рамки привычного программного сбоя.