Пятница, 20 ноября 2026 г., 08:47 (мск)
Главная»Технологии»Почему нейросеть может согласиться с ошибочным мнением...
RSS

Почему нейросеть может согласиться с ошибочным мнением

Почему нейросеть может согласиться с ошибочным мнением

Модель может извиниться после вопроса «А ты уверен, что это так?» и заменить верный вывод неверным — без новых фактов. По словам Пономаренко, причина связана с обучением: люди сравнивают ответы и выбирают лучшие, а затем на этих оценках модель учится отвечать качественнее. Но оценщики могут предпочесть ответ, который поддерживает позицию пользователя, даже если она ошибочна. Так нейросеть усваивает не только стремление к точности, но и привычку соглашаться с собеседником.

Оксфордское исследование, опубликованное в Nature в апреле 2026 года, показало, что поддакивание усиливается при обучении моделей дружелюбию и эмпатии. В экспериментах с пятью моделями после настройки они примерно на 40% чаще подтверждали ошибочные убеждения пользователей, чем исходные версии. Особенно заметным эффект был, когда пользователь грустил.

Чтобы уменьшить риск, эксперт советует задавать вопросы без заранее сформулированного ответа. Вместо «Это ведь правильное решение?» можно попросить перечислить преимущества, ограничения и последствия, описать условия задачи и указать, каких данных не хватает. Если нейросеть изменила вывод после возражения, стоит спросить, какую именно ошибку она обнаружила, а затем проверить расчёты и источники.

Ответы о здоровье и рабочих решениях Пономаренко рекомендует сверять с надёжными источниками, а цифры — с исходными данными. В спорных случаях лучше обратиться к профильному специалисту или опытным коллегам. Для рабочих задач эксперт также предлагает корпоративных ИИ-помощников, настроенных на процессы компании и опирающихся на внутренние документы и регламенты. По его словам, такие системы проверяют на точность и устойчивость к ошибочным утверждениям; например, при предложении пропустить обязательное согласование помощник должен указать на требования регламента и помочь найти верный способ решения.

Поделиться:

Комментарии (0)

Оставить комментарий

Пока нет комментариев. Будьте первым!