В четверг Apple анонсировала новую систему защиты детей, которая будет сравнивать фотографии, предназначенные для iCloud Photos, с криптографическими отпечатками известных материалов, содержащих сцены сексуального насилия над детьми, прежде чем изображения покинут устройство пользователя. По словам компании, это техническое нововведение позволит выявлять незаконные материалы, сохраняя при этом конфиденциальность, но сразу же вызвало тревогу у исследователей в области безопасности и защитников гражданских свобод.
Планируемая система — одна из трёх мер защиты, которые Apple намерена внедрить в обновлениях программного обеспечения в конце этого года. Компания также добавит анализ изображений сексуального характера, отправленных или полученных детскими аккаунтами в Сообщениях, непосредственно на устройстве, а также расширит возможности Siri и Поиска, которые будут направлять пользователей к ресурсам по обеспечению безопасности детей. В сообщении MacRumors об анонсе говорится, что эти функции, как ожидается, сначала будут запущены в США с iOS 15, iPadOS 15 и macOS Monterey.
NeuralHash переносит сопоставление контента на устройство
Наиболее важная функция связана с iCloud Photos. Apple заявляет, что ее система будет использовать технологию перцептивного хеширования под названием NeuralHash для создания числового представления изображения. Прежде чем фотография будет сохранена в iCloud Photos, устройство сравнит ее хеш с нечитаемой базой данных, полученной из хешей известных случаев сексуального насилия над детьми, предоставленных Национальным центром по розыску пропавших и подвергшихся эксплуатации детей и другими организациями, занимающимися защитой детей.
В техническом описании Apple описывается комбинация NeuralHash, пересечения приватных множеств и разделения секретных ключей по пороговому значению, предназначенная для того, чтобы Apple не могла узнать информацию об обычных фотографиях или отдельных совпадениях. Когда изображение соответствует известному хешу CSAM, устройство создает зашифрованный защитный ваучер, который передается вместе с изображением в iCloud. Apple заявляет, что не может интерпретировать эти ваучеры, если количество совпадений в учетной записи не превышает пороговое значение.
Только после превышения этого порога Apple расшифрует информацию, связанную с соответствующими изображениями, проведет проверку человеком, заблокирует учетную запись, если материал подтвердится, и сообщит об этом в NCMEC. Apple утверждает, что такая архитектура создает крайне низкую вероятность ошибочной пометки учетной записи и обеспечивает большую конфиденциальность, чем сканирование каждого файла после его поступления на облачный сервер.
В техническом пояснении TechCrunch отмечается важное ограничение: система привязана к iCloud Photos. Пользователи, которые не загружают фотографии в сервис, не подлежат процедуре сопоставления CSAM для изображений, хранящихся исключительно на их устройстве.
В комплект защиты детей входят две отдельные системы сканирования
Система iCloud отличается от второй функции приложения «Сообщения». Для детских учетных записей в iCloud Family Sharing Apple планирует использовать машинное обучение на устройстве для распознавания изображений, которые кажутся откровенно сексуальными. Изображение можно размыть, а ребенка предупредить перед просмотром или отправкой; в некоторых случаях, когда речь идет о детях младшего возраста, родитель может быть уведомлен, если ребенок решит продолжить.
В опубликованном в то же время отчете 9to5Mac подчеркивается, что Apple заявляет о сохранении сквозного шифрования в самом iMessage, поскольку классификация изображений происходит на устройстве, а не на серверах Apple. Компания также добавляет в Siri и Поиск функции, которые помогают пользователям искать материалы или информацию, связанные с эксплуатацией детей.
Технически это отдельные системы с разными целями: одна сопоставляет фотографии, хранящиеся в iCloud, с хешами уже известных незаконных материалов, а другая классифицирует потенциально откровенные изображения в сообщениях с участием детей. Однако их одновременное объявление привело к тому, что они стали обсуждаться как более широкое изменение в том, что устройства Apple готовы проверять локально.
Защитники конфиденциальности опасаются, что этот механизм может быть использован не по назначению
Самая сильная критика заключается не в том, что Apple намерена искать материалы, содержащие сцены сексуального характера с участием детей. Критика состоит в том, что создание механизма сопоставления контента на персональных устройствах может заложить основу для расширения архитектуры, которую правительства или будущая политика компаний могут попытаться использовать.
В своем анализе фонд Electronic Frontier Foundation утверждал , что проверка на стороне клиента ослабляет практический потенциал частных коммуникаций, даже если криптография продолжит защищать сообщения во время передачи. Обеспокоенность EFF заключается в том, что как только программное обеспечение сможет оценивать контент по базе данных или классификатору до шифрования или облачного хранения, тот же базовый механизм теоретически может быть применен и к другим категориям материалов.
Apple утверждает, что база данных CSAM имеет узкую структуру, что для сопоставления используются хеши от признанных организаций по защите детей, что пользователей нельзя целенаправленно атаковать с помощью обычных серверных инструкций, и что проверка человеком обеспечивает дополнительную защиту перед отправкой сообщения об ошибке. Компания представляет эти меры контроля как технические барьеры против расширения сферы деятельности, которого опасаются критики.
Однако исследователи в области безопасности задаются более широким вопросом управления: может ли любая защита, разработанная и контролируемая одной компанией, оставаться узкоспециализированной, если правительства потребуют изменений. В отчете AppleInsider компания описывается как пытающаяся сохранить конфиденциальность пользователей посредством сопоставления данных на устройстве и зашифрованных ваучеров, при этом признавая, что архитектура уже вызывает опасения по поводу будущей слежки.
Apple защищает свою систему ещё до начала её поставок
Негативная реакция началась практически сразу после появления подробностей. К пятнице во внутренней служебной записке Apple, полученной изданием 9to5Mac, признавалось, что некоторые люди обеспокоены последствиями, и говорилось, что компания продолжит объяснять, как работают эти меры защиты. В записке проект был представлен как попытка защитить детей, не отказываясь при этом от приверженности Apple принципам конфиденциальности.
Критики не ждут развертывания. В открытом письме, распространившемся к пятнице и описанном AppleInsider , содержится призыв к Apple остановить этот план, поскольку даже система с благими намерениями создает лазейку, которая может подорвать более широкую защиту конфиденциальности. Этот спор быстро вовлек в дискуссию технологов, правозащитных групп и общественных деятелей о границе между функциями безопасности и слежкой на уровне устройства.
Это решение может изменить представление о том, каким образом можно доверять системам с шифрованием
Техническое значение этого решения выходит за рамки Apple. В течение многих лет центральная тема шифрований обсуждалась на вопрос о том, следует ли предоставлять правительствам исключительный доступ к коммуникациям после шифрования. Дизайн Apple подходит к проблеме с другой стороны: оценка определенного контента происходит до того, как он будет защищен облачным хранилищем, или пока он еще доступен программному обеспечению на конечном устройстве.
Это различие может оказаться решающим. Apple утверждает, что её конструкция позволяет достичь узко определённой цели безопасности, не раскрывая при этом широко конфиденциальные данные. Критики же утверждают, что проверка конечных точек может подорвать конфиденциальность, даже если сам алгоритм шифрования остаётся математически неизменным.
Система еще не поступила в продажу, и ее практические средства защиты не были протестированы в масштабах предприятия. Поэтому перед запуском Apple стоят две технические задачи: продемонстрировать, что система сопоставления и определения пороговых значений работает с заявленной точностью, и убедить пользователей в том, что этот механизм нельзя перенаправить за пределы узкой категории, для которой он был разработан.
Компания построила значительную часть своего современного бренда на идее, что конфиденциальность — это функция продукта. Анонс на этой неделе подвергает это обещание необычайно сложной проверке. Apple пытается доказать, что устройство может помочь выявить известные материалы, содержащие сцены насилия над детьми, не превращаясь при этом в универсальную систему проверки. Примут ли пользователи и эксперты по безопасности это различие, может повлиять не только на восприятие iOS 15, но и на более широкую дискуссию о том, где заканчивается конфиденциальность на устройстве, достаточно мощном, чтобы анализировать данные своего владельца до того, как кто-либо другой сможет их увидеть.