Гейтс называет текущий этап развития технологий самым опасным в истории. Возможности нейросетей уже позволяют им писать программный код, находить уязвимости в системах безопасности и выстраивать сложные логические цепочки. Основную опасность он видит в моделях с отключенными ограничителями, которые могут быть использованы злоумышленниками для масштабных атак.
Для минимизации угроз основатель Microsoft предлагает внедрить обязательную сертификацию для наиболее мощных систем. Он настаивает на создании «полицейского слоя» — набора жестких правил безопасности, которые модель не сможет обойти даже при глубокой кастомизации. Гейтс подчеркивает, что предупреждения инсайдеров индустрии — не преувеличение, а объективная реальность, к которой мир пока не готов. На текущем этапе разработки человечество еще не обладает технологиями, гарантирующими полную предсказуемость ИИ, и вопрос выравнивания остается открытым. Несмотря на грядущие потрясения, он призывает молодежь не поддаваться нигилизму, а активно осваивать новые инструменты и участвовать в формировании политики контроля над технологиями.
Комментарии (0)
Пока нет комментариев. Будьте первым!