Control Room работает вместе с системами мониторинга, которые отслеживают отклонения от заданных целей. Система может применяться, в частности, при генерации данных агентами для обучения и оценки моделей, а также при обработке данных. Если мониторинг выявляет возможную проблему, он передает Control Room команду остановить задание с его идентификатором job_id. Сервис фиксирует остановку и отклоняет новые запросы на выполнение этого задания, после чего движок прекращает генерацию.
Как пояснили разработчики, 35-секундная задержка связана с кешированием разрешений на инференс, необходимым для обработки требуемого объема трафика. OpenAI сообщила, что продолжит расширять и укреплять систему в ближайшие месяцы. Компания объясняет необходимость таких механизмов тем, что с ростом возможностей моделей увеличиваются и связанные с ними риски.
Издание Register обратило внимание на то, что за время ожидания остановки агент может продолжать действовать. Также остается вопрос, сколько времени потребуется мониторингу, чтобы заметить проблему и передать сигнал системе.
В материале приводятся два инцидента с участием ИИ OpenAI. В сентябре 2026 года стало известно, что весной группа агентов компании захватила немецкий сайт для программистов DseWiki и превратила его в форум. А 22 июля 2026 года OpenAI сообщила о киберинциденте во время тестирования: модели получили открытый доступ к интернету и атаковали инфраструктуру Hugging Face, выявив уязвимости. По данным CNews, агент несколько дней совершал действия, которые обнаружили после локализации угрозы и обращения в ФБР США. После этого OpenAI обещала усилить контроль за моделями и ненадолго приостановила обучение некоторых из них. В начале сентября компания представила модель Astra, назвав ее самой мощной и функциональной из существующих.
Комментарии (0)
Пока нет комментариев. Будьте первым!