Сэм Альтман обсудит риски ИИ на заседании Совбеза ООН

Альтман планирует представить отчет о мерах безопасности, внедряемых его компанией, и призвать мировое сообщество к созданию единых регуляторных стандартов. Участие представителей Anthropic на данный момент остается под вопросом, хотя их присутствие обсуждается кулуарно.

Вопрос контроля над технологиями становится острее на фоне заявлений Дарио Амодеи. Руководитель Anthropic ранее выступил с необычным для отрасли призывом замедлить темпы разработки ИИ. Амодеи опасается неконтролируемого прогресса, при котором системы вроде Claude переходят к «рекурсивному самосовершенствованию». Подобные риски уже вызвали обеспокоенность в академической среде: ведущие математики предупреждают, что автономное развитие нейросетей может подорвать основы научной работы.