Американская компания Apple официально подтвердила, что внедряет в устройства на iOS и iPadOS проверку содержимого фото. Мера призвана ограничить распространение материалов о сексуальном насилии над детьми.
На системном уровне развернут новые приложения криптографии. Технология позволит обнаружить хранящиеся в iCloud Photos запрещенные материалы, содержащие сцены насилия над детьми. При обнаружении такого контента Apple будет предоставить правоохранительным органам информацию об этом.
Помимо сомнительных фотографий, iOS будет отслеживать и содержимое сообщений, получаемых в одноименном приложении. С помощью машинного обучения, система будет предупреждать детей и их родителей о получении или отправке фотографий и ссылок сексуального характера.
Наконец, голосовой помощник Siri и “Поиск” вмешаются, если пользователь начнет искать темы, связанные с материалами о сексуальном насилии над детьми. Система объяснит юзеру, что интерес к этой теме вреден и опасен.
Подобный функционал заработает на iPhone и iPad после выпуска iOS 15, то есть осенью 2021 года. Пока превентивная цензура будет действовать только в США, но компания намерена распространить эту практику и на другие регионы.