Apple задействовала ИИ для поиска незаконного контента на iPhone пользователей

Компания Apple разработала инструмент для локального сканирования фотографий на iPhone на предмет жестокого обращения с детьми. Систему начали тестировать на территории США.

Инструмент непрерывно проверяет фотографии на iPhone, iPad и macOS-устройствах без передачи данных в облачное хранилище. В случае обнаружения незаконного контента система предупредит об этом группу рецензентов, которые вручную перепроверят информацию. При необходимости они могут обратиться в правоохранительные органы.

По словам представителей компании, система сопоставляет фотографии пользователей на устройстве с базой данных известных хешей изображений, предоставленных NCMEC и другими организациями, занимающимися безопасностью детей

В компании подчеркнули, что использование инструмента для обнаружения незаконного контента не нарушает конфиденциальности пользователей.

«Apple преобразует фотографии в нечитаемый набор хэшей, который надежно хранится на устройствах пользователей», — говорится в заявлении.

В компании также сообщили, что запустят систему сканирования контента в «Сообщениях», чтобы оградить детей от непристойных изображений, присланных незнакомцами.

«Приложение использует машинное обучение на устройстве для анализа прикрепленных фотографий и определения того, является ли она сексуально откровенной. […] Apple не получает доступа к сообщениям», — говорится в блоге.

Новые функции появятся с обновлениями iOS 15,  iPadOS 15, watchOS 8 и macOS Monterey в конце 2021 года.

Эксперт по безопасности Мэтью Грин высказал опасения в связи с запуском систем сканирования сообщений и фотографий на устройстве пользователя. По его словам, компания послала «очень четкий сигнал».

Regardless of what Apple’s long term plans are, they’ve sent a very clear signal. In their (very influential) opinion, it is safe to build systems that scan users’ phones for prohibited content.

That’s the message they’re sending to governments, competing services, China, you.

— Matthew Green (@matthew_d_green) August 5, 2021

«По их (очень влиятельному) мнению, безопасно создавать системы, которые сканируют телефоны пользователей на предмет запрещенного контента», — сказал он.

Грин также считает, что такой шаг со стороны Apple подтолкнет правительства к требованию наличия подобных инструментов у других технологических компаний.

Напомним, в июне Apple представила беспарольную регистрацию с помощью Face ID и Touch ID.

В марте стало известно, что Apple приобрела больше всего ИИ-стартапов за последние четыре года.

В декабре 2020 года Apple выпустила обновление для iOS, которое позволяет пользователям отключить сбор персональных данных внутри приложений. Новые правила вызвали волну возмущений со стороны разработчиков приложений, в первую очередь Facebook и Google.

Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!