Европейский ИИ провалил проверку на борьбу с дезинформацией

Специалисты проанализировали работу систем, задав им 75 вопросов на английском, русском и эстонском языках. В ходе тестирования модели Mistral AI заняли лишь 47-е место, продемонстрировав эффективность распознавания злонамеренной информации ниже 40%. Эксперты связывают такой результат с особенностями открытых архитектур, которые, в отличие от закрытых коммерческих решений, пока не обеспечивают должного уровня фильтрации контента.

Разработчики Mistral AI признали серьезность проблемы и заявили о намерении совершенствовать инструменты защиты. Компания планирует инвестировать 4 млрд евро в создание новых центров обработки данных в Европе, чтобы повысить качество своих моделей. Тем не менее, текущий разрыв в эффективности между открытым и коммерческим софтом создает серьезные риски для государственных структур, которые вынуждены выбирать между безопасностью данных и качеством автоматической модерации контента.