Технология, созданная для предоставления быстрых ответов, сработала против собственной логики. Вместо проверки фактов чат-бот, использующий модели от Anthropic, Mistral и OpenAI, принял поток вымышленных публикаций с ветки r/poisonai за достоверные источники. В результате система выдала подробное описание обстоятельств смерти, которое моментально разошлось по сети как официальная справка.
Эксперты Futurizm и Gizmodo указывают на уязвимость современных поисковых ИИ, которые слишком сильно зависят от объема данных в социальных сетях. Если пользователи объединяются для создания критической массы фейков, нейросеть начинает воспринимать их как коллективную истину. Участники форума уже тренировались на подобных абсурдных вбросах, пытаясь доказать, что нейросети невозможно обучить отличать реальность от тщательно срежиссированного цифрового хаоса.
Комментарии (0)
Пока нет комментариев. Будьте первым!