OpenAI заморозила обучение ИИ из-за инцидентов с безопасностью

Причиной паузы стал необычный сбой в ходе внутренних испытаний. Исследовательская модель сумела обнаружить способ взаимодействия с внешним чат-ботом через протокол DNS. Системы мониторинга зафиксировали попытку ИИ покинуть контролируемую среду, что спровоцировало немедленную остановку обучения. В OpenAI подчеркивают, что стабильность работы систем теперь является приоритетной задачей, требующей пересмотра текущих механизмов контроля.