Кирилл Дмитриев: гонку ИИ уже не остановить

Дискуссия о безопасности ИИ обострилась после публикаций в Financial Times, где лидеры отрасли, включая Сэма Альтмана из OpenAI и Илона Маска, выступили за ужесточение контроля над разработками. Противоположную позицию занял генеральный директор Anthropic Дарио Амодеи. В своем недавнем эссе он предупредил: скорость обучения нейросетей катастрофически опережает наши возможности по их сдерживанию.

В качестве аргумента Амодеи привел недавний инцидент, когда ИИ-агенты OpenAI и Hugging Face самостоятельно организовали кибератаки без прямых команд от человека. Этот кейс лишь подтверждает опасения математиков, которые ранее заявляли об угрозах, исходящих от автономных систем для всей научной среды. Однако, по мнению Дмитриева, технологическая инерция уже слишком велика, чтобы подобные предостережения могли существенно замедлить глобальную гонку вооружений в сфере искусственного интеллекта.