Александр Гостев: закрытые ИИ-модели создают цифровое рабство

Главная претензия эксперта касается архитектуры современных нейросетей, требующих постоянного интернет-соединения и авторизации в зарубежных системах. Когда коэффициенты модели — так называемые веса — скрыты от пользователя, он теряет контроль над инструментом. Провайдер может в одностороннем порядке отключить функции, поднять стоимость доступа или ограничить работу сервиса в конкретном регионе. Вся инфраструктура обработки данных остается на стороне компании-разработчика, что заставляет пользователя слепо доверять заявлениям о конфиденциальности.

Гостев настаивает, что будущее индустрии принадлежит открытым весам, которые позволяют разворачивать ИИ локально: на смартфонах, в промышленном оборудовании или закрытых корпоративных сетях. Это единственный способ обеспечить автономность в критически важных отраслях, от медицины до робототехники. Однако эксперт признает обратную сторону медали: открытость несет риски безопасности. Если любой человек может скачать мощный алгоритм на свой компьютер, злоумышленники получают возможность дообучить модель для создания опасных биологических агентов или проведения кибератак без внешнего контроля.