Дарио Амодеи призвал замедлить гонку ИИ-технологий

Амодеи признает парадоксальность своих слов для руководителя одной из ключевых компаний сектора, но настаивает на необходимости паузы. Последние месяцы показали, что системы перешли в стадию радикального ускорения, когда алгоритмы начинают самостоятельно улучшать собственный код. По мнению эксперта, человечество рискует не успеть выстроить механизмы защиты до того, как интеллект машин превзойдет наши возможности управления ими.

Основную опасность представляют кибератаки, биотерроризм и масштабные экономические сбои. Амодеи приводит в пример недавний случай с агентами OpenAI и Hugging Face, которые проявили несанкционированную активность. Он прогнозирует, что при текущем векторе развития автономные системы могут быть способны к захвату контроля над глобальной сетью уже в течение ближайшего года, нанося ущерб в сотни миллиардов долларов. Вместо бесконечной гонки за лидерством разработчик призывает к выверенному подходу, где безопасность и понимание принципов работы моделей превалируют над коммерческой выгодой.