Конгресс США требует от Пентагона «рубильник» для нейросетей

Инициатива Луны стала ответом на предостережения Дарио Амодеи, главы компании Anthropic. В недавнем эссе эксперт заявил, что темпы самообучения нейросетей опережают возможности человеческого контроля. Амодеи допустил, что без жестких превентивных мер уже через полгода или год автономные «рои» ИИ-агентов способны парализовать интернет и нанести ущерб, исчисляемый сотнями миллиардов долларов.

С этим прогнозом солидарен Илон Маск, который публично поддержал главу Anthropic в соцсети X. Дискуссия о безопасности ИИ выходит за рамки оборонного сектора: ранее математики уже указывали на риски, которые бесконтрольные алгоритмы несут для фундаментальной научной работы и достоверности данных.