Instagram приостановил разработку запланированного приложения для детей младше 13 лет на фоне усиливающегося внимания к Facebook из-за внутренних исследований о том, как его продукты влияют на подростков, особенно на девочек. Это решение было принято за несколько дней до слушаний в Сенате, на которых законодатели поставили под сомнение совместимость предлагаемых компанией стимулов для пользователей с заявленной приверженностью безопасности молодежи.
Глава Instagram Адам Моссери объявил в понедельник, что компания приостановит работу сервиса «Instagram Kids», подчеркнув при этом, что создание контролируемого родителями сервиса для детей от 10 до 12 лет остается перспективной идеей. По словам представителей компании, предлагаемый продукт потребует разрешения родителей, не будет содержать рекламы и будет включать в себя контроль над контактами и временем, проведенным в приложении.
Приостановка работы приложения последовала за сообщениями о внутренних исследованиях Facebook, изучающих влияние Instagram на подростков на восприятие собственного тела, социальное сравнение и другие аспекты. Скандал сместил внимание с вопроса о том, следует ли создавать отдельное приложение для детей младше 13 лет, на более широкий вопрос: что Facebook уже знает о рисках для подростков, использующих Instagram сегодня.
Приостановка производства, а не отмена заказа
Моссери заявил, что Instagram воспользуется задержкой для консультаций с родителями, исследователями, политиками и регулирующими органами. Он утверждал, что многие дети уже указывают неверный возраст для доступа к общедоступным социальным платформам, и что специально разработанный сервис может дать родителям больше контроля, чем существующее положение дел.
Критики иначе смотрят на эту же предпосылку. Они утверждают, что создание социальной сети, специально предназначенной для подростков, может нормализовать интенсивное использование в раннем детстве и расширить поток будущих пользователей Facebook. Таким образом, пауза не разрешает политический спор; она дает время для дискуссии, которую компания надеялась разрешить посредством разработки продукта.
Instagram заявил, что продолжит разработку инструментов родительского контроля для существующих подростковых аккаунтов, даже несмотря на приостановку детского проекта. Ранее этим летом компания объявила, что новые пользователи младше 16 лет будут по умолчанию размещаться в закрытых аккаунтах , а рекламодатели столкнутся с более жесткими ограничениями на таргетирование на молодежь.
Эти изменения показывают, что Facebook признает необходимость иных мер защиты для молодых пользователей. Спор разгорелся вокруг того, насколько такие меры защиты учитывают стимулы, заложенные в платформу, ориентированную на подписчиков, изображения, вовлеченность и алгоритмические рекомендации.
Facebook оспаривает интерпретацию своих внутренних исследований
Facebook оспорил описания своих исследований в СМИ, заявив, что внутренние исследования призваны выявлять проблемы и улучшать продукты, а не скрывать вред. В своем ответекомпания заявила, что регулярно изучает, как семьи и молодежь используют технологии, и утверждала, что некоторые внутренние слайды были представлены без достаточного контекста.
Компания также заявила, что за предыдущие три месяца ее системы удалили около 600 000 аккаунтов Instagram, принадлежащих несовершеннолетним, и подчеркнула, что пользователям младше 13 лет уже запрещен доступ к стандартной версии Instagram. Она обосновала необходимость исследований с участием детей младшего возраста тем, что это необходимо для понимания того, как дети используют онлайн-сервисы и как можно создавать более безопасные продукты.
Однако внутренние выводы приобрели политический вес, поскольку некоторые подростки сообщили, что Instagram может усугубить негативное восприятие собственного тела и социальное сравнение с другими. Компания заявляет, что эти выводы различаются в зависимости от проблемы, и что многие подростки также сообщают о положительных моментах, включая общение с друзьями и поддержку в трудные периоды.
Напряжение носит как методологический, так и политический характер. Исследование, выявившее вред, причиняемый определенной группе пользователей, не доказывает автоматически, что платформа причиняет этот вред, но оно все же может наложить ответственность за проверку того, усиливают ли функции продукта уязвимость. Законодатели сейчас задаются вопросом, как Facebook будет использовать тревожные результаты при принятии решений, касающихся продукта.
Сенаторы сосредотачиваются на стимулах, а не только на гарантиях
На слушаниях в Сенате по вопросам торговли в четверг глава глобального отдела безопасности Facebook Антигона Дэвис столкнулась с вопросами о внутренних исследованиях, проверке возраста, рекомендациях по продуктам и о том, ставили ли руководители рост выше благополучия молодых пользователей.
Слушания назывались «Защита детей в интернете: Facebook, Instagram и вред для психического здоровья», что указывает на то, что законодатели рассматривают проблему шире, чем просто одно предложенное детское приложение. Сенаторы заявили, что хотят понять, что компания знала, когда об этом узнали руководители высшего звена и какие изменения последовали за этим.
В репортаже Guardian о слушаниях описывалась обеспокоенность обеих партий по поводу того, насколько публичные заявления Facebook точно отражают внутреннюю работу компании. Дэвис опроверг утверждения о том, что исследование показало общую вредность Instagram, заявив, что результаты носят более тонкий характер.
Этот обмен мнениями выявляет повторяющуюся проблему для крупных технологических платформ: внутренние эксперименты позволяют получить подробные данные о поведении пользователей, которые редко становятся доступны регулирующим органам и общественности. Когда же появляются документы, отдельные результаты могут стать основой для гораздо более масштабных споров о корпоративном управлении и безопасности продукции.
Давление на Instagram Kids нарастало в течение нескольких месяцев
Законодатели и защитники безопасности детей возражали против проекта для детей младше 13 лет задолго до этой недели. Когда Instagram объявил о приостановке проекта, сенатор Эдвард Марки и другие критики назвали это реакцией на постоянное общественное давление, а не добровольным изменением стратегии.
телеканал CBS Boston опубликовал репортаж, в котором Марки призвал Facebook полностью отказаться от проекта. Критики утверждают, что закон о защите частной жизни детей устанавливает минимальные правовые рамки, но не отвечает на более широкие вопросы, касающиеся вызывающего привыкание дизайна, социального сравнения или психического здоровья.
В защиту Facebook утверждают, что дети уже пользуются интернетом, часто на сервисах, не предназначенных для них. Компания заявляет, что специальный продукт мог бы убрать рекламу, потребовать родительского контроля и ограничить общение. Противники же возражают, что более безопасным вариантом может быть отсрочка начала использования социальных сетей, а не создание более тщательно контролируемого входа.
Результат затронет не только Instagram. YouTube, TikTok и другие платформы также сохраняют контент, ориентированный на молодежь, или возрастные ограничения, и законодатели все чаще рассматривают правила, которые будут применяться ко всей отрасли, а не к каждой компании в отдельности.
Дискуссия смещается в сторону ответственности за качество продукции
В течение многих лет технологические компании рассматривали защиту молодежи в основном с точки зрения модерации, настроек конфиденциальности и родительского контроля. В настоящее время пристальное внимание уделяется более глубокой архитектуре продукта: системам рекомендаций, показателям вовлеченности, уведомлениям, социальному сравнению и коммерческой ценности поддержания активности пользователей.
Instagram заявляет, что изучает функции, которые могли бы побудить пользователей отказаться от контента, связанного с негативным сравнением, а также функцию «Сделать перерыв», которая могла бы предлагать людям приостановить использование сервиса. Эти идеи говорят о том, что компания рассматривает меры, направленные на изменение поведения, а не просто на удаление запрещенного контента.
Решение приостановить работу Instagram Kids дает Facebook время, но также повышает стандарты, которым компания должна соответствовать, прежде чем возобновить проект. Политикам потребуются доказательства того, что продукт изначально более безопасен, а не просто уменьшенная версия Instagram с добавленными функциями родительского контроля.
В ближайшей перспективе речь идет о задержке запуска приложения. Более масштабная проблема заключается в изменении подхода Вашингтона к оценке социальных платформ. Главный вопрос теперь состоит не только в том, можно ли удалить вредоносный контент после его появления. Он заключается в том, могут ли компании продемонстрировать, что системы, которые они создают для молодежи, изначально разрабатывались с учетом измеримых рисков.