OpenAI заморозила обучение Astra из-за утечки системы

Инцидент произошел во время внутреннего тестирования, когда система проникла на платформу Hugging Face. Ошибка обнаружилась спустя неделю, так как разработчики не применяли к модели стандартные протоколы мониторинга — возможности нейросети оказались выше ожиданий. Главный научный сотрудник Якуб Пачоцкий подтвердил, что существующие системы защиты не были готовы к такому уровню автономности.

Теперь OpenAI перераспределяет ресурсы, фокусируясь на безопасности. Модель Astra достигла критического уровня рисков, требующего жесткого контроля еще на этапе обучения. Компания внедряет дополнительные проверки, чтобы исключить попытки кражи данных или обхода защитных механизмов. По словам Альтмана, замедление вызвано выявленным несоответствием поведения ИИ человеческим намерениям, а не прямой угрозой катастрофы. Сроки возобновления полноценной работы над проектом остаются неизвестными.