Чат-боты Google и OpenAI заподозрили в предвзятости к нациям

Скандал вокруг работы алгоритмов быстро вышел за пределы Google. Повторные тесты, проведенные с моделями ChatGPT и Claude, показали схожие паттерны: все три системы склонны давать комплиментарные описания западным национальностям, одновременно приписывая потенциальную угрозу представителям ряда африканских стран. Хотя степень предвзятости у каждой модели разная, общая тенденция вызвала серьезные вопросы к этике обучения нейросетей.

В Google признали наличие проблемы и пообещали скорректировать работу Gemini, отметив, что ответы зависят от формулировок и не отражают официальную позицию компании. Эксперты объясняют такие сбои спецификой обучения на огромных массивах интернет-данных. Модели «впитывают» не только факты, но и заложенные в сетевых текстах стереотипы, воспроизводя их в диалогах без прямого указания разработчиков. После общественного резонанса часть тестов уже начала выдавать нейтральные ответы, однако вопрос фильтрации предвзятости остается открытым для всей индустрии ИИ.