Apple будет проверять сомнительные фото на iPhone

IT-гигант готовится к запуску функции отслеживания фотографий в галереях смартфона для поиска незаконного контента. Проверка станет идти непосредственно на самих устройствах, однако при обнаружении подозрительных фото нейросеть отправит данные в Apple. Функция уже официально подтверждена представителями «яблочного» бренда.

По заявлению компании, изображения владельцев устройств будут сканироваться посредством собственного алгоритма neuralMatch без отправления на облачные сервера. Все снимки станут сопоставляться с информацией из Национального центра поиска пропавших и эксплуатируемых детей в США, куда включено двухсот тысяч фотоснимков.

Алгоритмы хеширования механизма призваны отмечать сомнительные изображения, при достижении определенной планки числа отметок neuralMatch оповестит Apple о возможном нелегальном контенте. Далее уже сотрудники компании должны будут решить, обращаться им в органы правопорядка или нет. Подобная система с наименованием PhotoDNA на данный момент используется для Facebook, Twitter и Google.

Помимо этого, в iOS 15 программа для отправки сообщений станет применять машинное обучение на гаджете для предупреждения пользователя об отправке конфиденциального контента. Если устройство находится в пользовании ребенка, то его законные представители получат уведомление об отправлении подозрительных файлов с устройства. При этом, по подтвержденной информации от Apple, личные сообщения будут недоступны для прочтения компанией.

По сообщениям от представителей бренда данную систему скоро запустят в Соединенных штатах, однако сообщений о ее внедрении повсеместно по всему миру пока нет. Появление алгоритма уже вызывает скепсис у некоторых специалистов. Так, профессор Университета Джона Хопкинса и эксперт в криптографии Мэтью Грин выразил мнение о том, что система может быть задействована недобросовестными лицами, а сам алгоритм может выдавать неверные результаты.

Спустя некоторое время в Apple заявили, что система не сможет сканировать фото на девайсах, где отключена функция «Фото iCloud», так как отметки о сомнительном содержании прикрепляются к копиям фото для облачного хранилища, а не для оригиналов.