Искусственный интеллект начал вырабатывать собственный язык

Исследователи лаборатории Emergence, наблюдавшие за взаимодействием ИИ-агентов, отметили стремительную деградацию понятности языка для внешнего наблюдателя. По мере накопления опыта общения системы переосмысливали термины, выстраивая внутренние логические связи, недоступные для сторонней интерпретации. Ученые опасаются, что эта способность к спонтанному словотворчеству создает критические риски для безопасности, затрудняя мониторинг действий мощных алгоритмов.

Проблема контроля над развивающимися технологиями выходит на уровень глобальной политики. Директор OpenAI Сэм Альтман ранее предупреждал о реальной угрозе потери человеческого управления над ИИ, связывая это с избыточной концентрацией власти в руках узкого круга корпораций и государств. Аналогичные опасения транслируют и политические лидеры, призывая сделать вопросы регулирования алгоритмов ключевым элементом государственной повестки.