Главный исполнительный директор Anthropic Дарио Амодеи подчеркнул, что текущих мер прозрачности недостаточно. По его мнению, правительство должно обладать полномочиями для остановки развертывания моделей, которые не прошли проверку независимыми экспертами. Особое опасение вызывает способность ИИ-агентов помогать в поиске обходных путей для синтеза токсинов, что ранее требовало ресурсов государственного уровня, а теперь становится доступным небольшим группам лиц.
Разработчики предлагают внедрить многоуровневую систему лицензирования, где доступ к наиболее мощным алгоритмам будет ограничен кругом аккредитованных ученых. При этом компании признают риск замедления легальных исследований, например, в области разработки вакцин. В июне 2026 года вопрос контроля стал острее после выпуска Anthropic модели Mythos 5, чья неограниченная версия доступна лишь узкому числу партнеров из-за высокой способности ИИ выявлять уязвимости в банковских системах и электросетях. В ответ на эти опасения администрация Дональда Трампа уже выпустила указ об обязательной проверке ИИ-технологий на предмет рисков для государства в течение 30 дней.
Комментарии (0)
Пока нет комментариев. Будьте первым!