Google тайно устанавливает на Android приложение SafetyCore

Приложение задействуется для работы функции Sensitive Content Warnings в мессенджере Google Messages. Она автоматически размывает изображения, которые алгоритмы машинного обучения распознают как нежелательные. В Google настаивают, что вся обработка фотографий происходит локально, без отправки файлов на серверы компании, однако отсутствие иконки и прозрачного описания принципов работы вызвало волну критики среди пользователей Reddit и специалистов по кибербезопасности.

Ситуация усложняется планами корпорации по внедрению API ContentSafetyManager. Этот инструмент позволит сторонним разработчикам использовать функционал классификации контента для своих целей. Исследователь Cybernews Раса Юргутите опасается, что в сочетании с широкими правами доступа вредоносное ПО сможет использовать эти алгоритмы для масштабного профилирования пользователей. Теоретически злоумышленники могут применять встроенные средства проверки для анализа содержимого памяти устройства, что превращает инструмент защиты в потенциальный канал утечки конфиденциальной информации.