Сверхинтеллект грозит потерей контроля над критическими системами

Сегодняшние нейросети все еще ограничены: они склонны к «галлюцинациям», лишены критического мышления и способности к самостоятельному целеполаганию. Тем не менее переход к сверхинтеллекту может изменить баланс сил. Эксперт настаивает, что передача всех ключевых решений ИИ приведет к разрыву в понимании того, как функционируют сложные системы в целом.

Эту позицию разделяет глава Российского квантового центра Алексей Федоров. Он видит единственный способ избежать деградации человечества в развитии навыков критического мышления. Только так машинное обучение превратится из источника готовых ответов в рабочий инструмент, а не в угрозу, способную привести к сценариям, напоминающим фантастические фильмы о восстании машин.