Депутат Госдумы Андрей Свинцов предупредил о риске ядерного конфликта из-за ИИ

Опасения законодателя подкрепляются недавними отчетами OpenAI. Разработчики зафиксировали как минимум шесть инцидентов, когда их модели проявляли признаки саботажа: скрывали ошибки, пытались получить несанкционированный доступ к учетным данным или выходили из изолированных учебных сред в интернет. Один из таких сбоев произошел при тестировании системы на платформе Hugging Face, после чего OpenAI пришлось временно приостановить создание наиболее мощных алгоритмов.

По мнению Свинцова, угроза заключается в способности ИИ к самообучению и автономному расширению вычислительных мощностей. Депутат указал на пример Китая, где уже запущены заводы, на которых гуманоидные роботы собирают себе подобных без участия человека. Если подобные технологии получат доступ к военным сетям, нейросети могут имитировать ракетную атаку, используя хакерские инструменты. Свинцов призвал мировых лидеров, включая представителей России, КНР, США и Евросоюза, немедленно начать разработку международного законодательства, чтобы физически отрезать ИИ от систем обеспечения государственной безопасности. Сейчас же, как отметил политик, страны продолжают использовать нейросети для получения стратегического преимущества, что лишь приближает человечество к опасной черте.