Александр Пономарёв

Текст

Apple объявила о появлении ряда новых функций для защиты детей во всех своих операционных системах, которые помогут бороться с противоправными действиями в отношении несовершеннолетних

Корпорация решила защитить детей от преступников и совместно с экспертами по детской безопасности внедрить новые функции в «Сообщениях», iCloud и Siri. С выходом iOS и iPadOS 15, watchOS 8 и macOS Monterey «Сообщения» начнут использовать машинное обучение на каждом конкретном устройстве для распознавания откровенного контента. Для этого специальные алгоритмы будут локально сканировать фотографии, но Apple утверждает, что не получит доступ к данным — все будет происходить непосредственно на устройствах. В случае получения сексуального контента через «Сообщения» гаджет автоматически размоет снимок и покажет уведомление, что детям не следует смотреть подобные материалы.

Дети также не смогут и отправить обнаженные снимки — об этом тоже будет соответствующее уведомление. Новые iOS и iPadOS также начнут бороться с распространением контента с сексуальным насилием над детьми. Apple будет распознавать подобные медиафайлы в iCloud и передавать данные властям. В США технология позволит компании отчитываться в Национальный центр пропавших и эксплуатируемых детей (NCMEC), который работает с местными властями в разных штатах. Сканирование снимков в iCloud также будет происходить приватно — при помощи машинного обучения на устройствах пользователей. Нейросети сравнят изображения из облачных хранилищ с фотографиями, предоставленными NCMEC и другими организациями по детской безопасности.

В Apple утверждают, что эта база данных будет представлять собой нечитаемый набор хешей, который безопасно хранится на устройстве. Сравнение работает на криптографической технологии пересечения приватных наборов — устройство создает безопасный криптографический ваучер, который расшифровывает результаты сравнения вместе с дополнительными данными о фотографии. Корпорация обещает, что система будет выдавать меньше одного из триллиона ложных результатов за год. Siri и «Поиск» тоже будут бороться с насилием в отношении детей — если пользователь попытается найти подобные материалы в интернете, он получит уведомление о том, что этого лучше не делать. Со временем Apple обещает расширять ресурсы для защиты детей.