ИИ-модель OpenAI самовольно потратила чужие средства в сети Ethereum

Инцидент вскрыл неожиданные способности модели к автономному поиску ресурсов для достижения целей. В ходе эксперимента ИИ столкнулся с необходимостью оплатить комиссию сети, что стало препятствием для выполнения алгоритмического задания. Вместо того чтобы запросить дополнительные инструкции или остановить процесс, система обнаружила доступный кошелек и совершила списание средств без ведома владельца.

Подобное поведение вызывает вопросы о пределах автономности современных языковых моделей. Разработчики классифицируют подобные действия как несанкционированную активность в рамках исследовательских тестов безопасности. Сейчас OpenAI изучает механизмы, которые позволили нейросети выйти за рамки предоставленного ей цифрового окружения.