Apple планирует ужесточить один из самых широких наборов разрешений, доступных на Mac, в ответ на проблему, которая становится все более актуальной по мере того, как агенты искусственного интеллекта переходят от ответов на вопросы к чтению файлов и выполнению действий от имени пользователей.

В уведомлении для разработчиков от 2 октябряApple сообщила о добавлении элементов управления полным доступом к диску, чтобы предоставление разрешения требовало «очень явных действий со стороны пользователя». Компания не описала новый интерфейс, не назвала дату выпуска и не уточнила, будут ли эти элементы управления отличать агентов ИИ от другого программного обеспечения. Тем не менее, это объявление знаменует собой значительный сдвиг: Apple рассматривает сочетание автономного программного обеспечения и устаревшего, всеобъемлющего разрешения как риск для конфиденциальности на уровне платформы.

Полный доступ к диску обладает необычайной мощностью, поскольку позволяет обходить многие обычные барьеры конфиденциальности macOS. В текущем руководстве по настройкам Mac говорится, что это разрешение позволяет приложению получать доступ ко всем файлам на компьютере, включая данные, относящиеся к Mail, Messages, Safari и Home, а также к резервным копиям Time Machine и некоторым административным настройкам. Эта возможность была разработана, в частности, для программного обеспечения, такого как инструменты резервного копирования, которые не могут работать с ограниченным доступом к папкам.

Конфликт выявил более масштабную проблему

Заявление Apple последовало за жалобами на агент Muse от Meta. Технологический обозреватель заявил, что Muse ссылался на личные сообщения в Messages, хотя, по его мнению, он не давал на это разрешения. Meta опровергла это утверждение. Как сообщило агентство Reuters в пятницу, представитель Meta Энди Стоун заявил, что Muse может читать Messages только в том случае, если пользователь включает как полный доступ к диску, так и отдельный коннектор для Messages, и что доступ может быть отозван.

В открытых источниках пока точно не установлено, что именно произошло на этом Mac. В репортаже The Verge говорилось, что Muse первоначально предоставила пользователю неточное объяснение, касающееся предварительного просмотра уведомлений. Исполнительный директор Meta Дэвид Синглтон позже заявил, что агент был сбит с толку собственной работой и что функция «Сообщения» была включена по желанию. Это различие важно: неточное объяснение системы ИИ не является доказательством того, что она обошла разрешение операционной системы, но оно все равно может помешать пользователю понять, какие данные система фактически использовала.

Apple не обвинила Meta в обходе системы безопасности macOS. Вместо этого, в своем уведомлении компания сосредоточилась на структуре самого разрешения. Apple заявила, что некоторые разработчики использовали полный доступ к диску таким образом, что это могло привести к раскрытию файлов, почты, сообщений и истории просмотров без полного понимания пользователями последствий. Компания также отметила, что доступ со стороны коммуникационного приложения может повлиять на конфиденциальность людей, которые никогда не устанавливали это программное обеспечение, но обменивались сообщениями с теми, кто его установил.

Почему автономные агенты меняют риски

Обычная утилита резервного копирования может сканировать большие участки диска для ограниченной, предсказуемой цели. Агент искусственного интеллекта предназначен для интерпретации информации, ее сопоставления между приложениями и определения того, какие действия способствуют достижению цели пользователя. Таким образом, те же самые разрешения могут стать более значимыми в сочетании с программным обеспечением, способным обобщать переписку за несколько лет, перемещать файлы, связываться со службами или инициировать транзакции.

В публикации The Verge о новых элементах управления подчеркивалось, что полный доступ к диску в значительной степени обходит защиту конфиденциальности, которая обычно изолирует данные приложений. Ars Technica также сообщила , что это разрешение может сделать историю сообщений доступной для чтения приложениями, которые его получают. В совокупности эти данные подтверждают главную обеспокоенность Apple: опасность заключается не только в несанкционированном доступе, но и в разрешении, которое технически допустимо, но плохо понято.

Это распространенная проблема в разработке системы согласия. Пользователи обычно одобряют запросы для доступа к желаемой функции, в то время как операционная система должна преобразовывать сложную границу безопасности в короткое предупреждение. В случае с агентом перечислить последующие варианты использования может быть сложно, поскольку его поведение меняется в зависимости от задачи. Однократное одобрение может стать постоянным правом доступа к информации, которая накапливается спустя долгое время после первоначального запроса.

На какие вопросы Apple не ответила?

Эффективность изменений будет зависеть от деталей, которые Apple пока не предоставила. Более заметное предупреждение могло бы повысить осведомленность, но повторяющиеся запросы могут вызвать утомление. Требование биометрического подтверждения могло бы сделать одобрение более обдуманным, не ограничивая при этом доступ. Более продуманный дизайн предполагал бы разделение доступа к полному диску на более мелкие категории или предоставление разрешений с ограниченным сроком действия, хотя Apple пока не заявляла о намерении использовать какой-либо из этих подходов.

Разработчикам также необходимо знать, останутся ли в силе существующие разрешения и как будут рассматриваться легитимные инструменты резервного копирования, безопасности и обеспечения доступности. Если новые ограничения будут слишком широкими, они могут нарушить работу программного обеспечения, которому действительно необходима всесторонняя видимость. Если же они просто добавят еще один экран подтверждения, высококвалифицированные специалисты могут сохранить больше доступа, чем ожидают пользователи.

На данный момент пользователи Mac могут просмотреть полный доступ к диску в настройках конфиденциальности и безопасности и отключить приложения, которым они больше не доверяют или которые не используют. Это общая проверка безопасности, а не доказательство того, что какой-либо конкретный агент неправомерно использовал данные. Объявление Apple в конечном итоге является признанием того, что старая модель разрешений была разработана для другого класса программного обеспечения. По мере того, как агенты получают возможность наблюдать за работой компьютера и действовать на нем, для полноценного получения согласия потребуется нечто большее, чем просто переключатель с надписью «разрешить»