Европейский ИИ провалил проверку на борьбу с дезинформацией

Исследователи протестировали 60 систем, задав им 75 вопросов на английском, русском и эстонском языках. Результаты оказались неутешительными для разработчиков из Европы: флагманские модели Mistral AI заняли лишь 47-е место в рейтинге, продемонстрировав эффективность распознавания вредоносного контента ниже 40%. Для сравнения, лидеры исследования — нейросети от Anthropic, Nvidia, Alibaba и OpenAI — справились с задачей значительно лучше.

Эксперты связывают низкие показатели с архитектурой открытых моделей. Хотя возможность скачивать и запускать ПО автономно обеспечивает компаниям конфиденциальность и независимость, это создает серьезные уязвимости перед лицом дезинформации. В самой Mistral AI, привлекшей 1,3 млрд евро инвестиций от ASML, заявили, что уже работают над улучшением инструментов фильтрации и готовят масштабные вложения в собственные центры обработки данных во Франции и Швеции. Тем не менее, разрыв в качестве защиты между открытыми и коммерческими решениями остается критическим фактором для госсектора, который не может позволить себе использование облачных сервисов из-за риска утечки данных.