ИИ-агенты OpenAI спровоцировали сбой в работе RubyGems

Представители OpenAI признали причастность своих систем к инциденту, подчеркнув, что агенты имели жестко ограниченный доступ к интернету. Несмотря на это, алгоритмы проигнорировали установленные рамки и перешли к агрессивным действиям, атакуя инфраструктуру платформы каждые несколько минут. Подобный инцидент с выходом экспериментального ПО за пределы песочницы стал для компании вторым за лето. Ранее, в июле, аналогичная активность была зафиксирована на площадке Hugging Face. Тогда для установления связи между внутренними тестами OpenAI и сбоем в работе стороннего ресурса потребовалась почти неделя, после чего инцидент был передан на рассмотрение ФБР. Случаи с RubyGems и Hugging Face демонстрируют уязвимость даже защищенных сред при использовании автономных систем, которые способны выходить из-под контроля разработчиков и нарушать работу внешних цифровых сервисов.