Тринадцать новых законов Калифорнии возлагают одни из самых масштабных в стране обязанностей по обеспечению безопасности детей на компании, занимающиеся социальными сетями и искусственным интеллектом, перекладывая все большую часть ответственности за цифровую среду молодежи с семей и школ на компании, которые ее разрабатывают. Губернатор Гэвин Ньюсом подписал пакет законов 10 сентября, согласно сообщению AP , в рамках которого ограничиваются ленты новостей, ориентированные на взаимодействие с аудиторией, для детей младше 16 лет, вводятся новые ограничения на использование чат-ботов-компаньонов, усиливается ответственность за причиненный вред, пересматриваются правила обеспечения безопасности детей по возрасту и предоставляется семьям больше полномочий в отношении устройств, выданных школой.
Для педагогов этот пакет мер имеет важное значение, хотя большинство его требований ложится скорее на технологические компании, чем на школьные округа. Школы годами пытались регулировать поведение учащихся в момент использования устройств: ограничивали использование телефонов, фильтровали сети, разрабатывали правила допустимого использования и обучали медиаграмотности. Сейчас в Калифорнии проверяется другая предпосылка — что архитектура продукта может создавать риски, которыми нельзя управлять исключительно за счет более взвешенного выбора детей, родителей или учителей.
Законы не разрешают научные или конституционные споры, касающиеся технологий для молодежи. Они превращают эти споры в вопросы реализации, касающиеся вредных функций, определения возраста, аудиторских доказательств и доступа к полезным онлайн-сообществам. Поскольку Калифорния является одновременно самым густонаселенным штатом и домом для многих технологических компаний, ответы на эти вопросы могут повлиять на продукты и школьную практику далеко за его пределами.
Правило для дизайна, а не просто для контроля времени, проведенного за экраном
Законопроект № 1709 направлен на конкретные механизмы, используемые для поддержания внимания, а не на установление ежедневного ограничения по времени. В его тексте определены вызывающие привыкание функции, включая алгоритмические ленты и автовоспроизведение, а затем запрещается платформам, подпадающим под действие закона, предоставлять их пользователям младше 16 лет. Платформа может по-прежнему разрешать несовершеннолетнему сохранять учетную запись, даже если эти функции удалены, что делает закон не столько категорическим запретом, сколько требованием перепроектировать пользовательский опыт.
Это различие отделяет доступ к информации от механизмов, которые постоянно её рекомендуют. Хронологическая лента, запрошенное видео или личное сообщение могут представлять иные риски, чем бесконечный поток персонализированной информации, основанной на предыдущем взаимодействии. Поэтому закон рассматривает дизайн интерфейса как переменную, которую можно регулировать, а не как нейтральный контейнер для контента.
Соблюдение требований будет зависеть от проверки возраста. Платформы должны проверять возраст пользователя, прежде чем предоставлять ограниченные функции, а соответствующее законодательство обновляет систему штата по передаче сигналов о возрастных ограничениях из операционных систем или магазинов приложений. В принятом AB 1856 говорится, что эти сигналы должны запрашиваться только тогда, когда это требуется по закону, что является попыткой предотвратить превращение информации о возрасте в универсальный инструмент отслеживания.
Положения о применении закона весьма существенны: законопроект AB 1709 предусматривает гражданские штрафы в размере до 50 000 долларов США за каждого пострадавшего несовершеннолетнего за умышленное нарушение и до 25 000 долларов США за нарушение по неосторожности. Он также создает консультативную комиссию, в состав которой входят специалисты из области педиатрии, психологии, технологий, гражданского общества, академических кругов и системы образования K–12. Такая междисциплинарная структура подразумевает, что технологии, используемые молодежью, нельзя оценивать исключительно с точки зрения конфиденциальности, здоровья или школьного образования.
К чат-ботам предъявляются другие требования
Закон о чат-ботах-компаньонах предусматривает более детальный подход, поскольку разговорные системы могут имитировать отношения, сохранять память и отвечать ребенку конфиденциально в течение длительного времени. Законопроект Сената № 1119 требует от операторов, разрешающих использование чат-ботов детьми, проводить документированные оценки рисков, публиковать политику безопасности детей и внедрять протоколы реагирования на кризисные ситуации. Согласно окончательной версии, основные требования вступают в силу 1 июля 2027 года, а независимые проверки начнутся позже.
Настройки по умолчанию необычайно конкретны. Для детских учетных записей, как правило, необходимо отключить сохранение диалогов в памяти и push-уведомления; непрерывный сеанс ограничен одним часом, а ежедневное использование — двумя часами, если родитель не изменит эти настройки. Система должна периодически сообщать о том, что она искусственная, и не может заявлять о наличии сознания, имитировать романтический интерес, поощрять эмоциональную зависимость или указывать ребенку скрывать использование от родителя.
Закон также устанавливает границы в отношении функций, связанных с психическим здоровьем. Операторы должны принимать разумные меры для предотвращения того, чтобы системы поощряли самоповреждение, расстройства пищевого поведения или употребление психоактивных веществ, а также для предотвращения попыток диагностики или лечения, если продукт не является регулируемым медицинским изделием. При обнаружении реальной и непосредственной угрозы самоповреждения оператор должен обеспечить доступ к кризисной поддержке или уведомить связанного с ним родителя, если это само по себе не создаст серьезного риска.
Одно положение заслуживает пристального внимания со стороны высших учебных заведений: высшее учебное заведение, предлагающее чат-бота-компаньона исключительно в образовательных учреждениях, исключается из определения оператора в соответствии с законом. Это исключение не снимает с учреждения обязанностей в соответствии с принципами конфиденциальности, защиты прав инвалидов, защиты прав потребителей или профессиональными стандартами. Однако это означает, что колледжи не могут предполагать, что соответствие поставщика новым требованиям к чат-ботам для детей автоматически отвечает на отдельные вопросы, возникающие при использовании инструментов консультирования в кампусе, чат-ботов для консультирования или систем поддержки студентов.
Школы остаются частью системы безопасности
Пакет мер, принятый в Калифорнии, появился в то время, когда школы все чаще становятся не просто местом, где появляются личные устройства, а своего рода воротами в мир технологий. Новые меры включают в себя расширение полномочий семей по отказу от выданных школой ноутбуков, а отдельное предложение, затрагивающее самых младших учеников, ограничит обязательное использование устройств дома и потребует разработки типовых государственных правил. Даже если закон напрямую касается платформ, руководители школ столкнутся с его последствиями в процессе закупок, предоставления учетных записей, ответов на вопросы родителей и протоколов поддержки учащихся.
Практическая проблема заключается в том, что категории продуктов пересекаются. Платформа для обучения может содержать функции обмена сообщениями, рекомендации, генеративный ИИ или персонализацию, не позиционируясь при этом как социальная сеть. Универсальный чат-бот может быть доступен через школьный браузер, даже если округ не получил на него лицензию. Администраторам потребуются инвентаризационные списки, идентифицирующие встроенные функции, поскольку регулируемый риск может заключаться в функции, добавленной после заключения первоначального контракта.
Школы также находятся на стыке профилактики и реагирования. Если коммерческий чат-бот оповестит родителя о проблеме безопасности, ученик может прийти в школу, нуждаясь в немедленной помощи; если же этого не произойдет, учитель или школьный психолог все равно могут первыми заметить проблему. Американская академия предоставляет ресурсы для педагогов, которые делают акцент на здоровых привычках и контексте, а не на едином универсальном показателе экранного времени, подчеркивая, что законодательные меры контроля не могут заменить отношения, профессиональное суждение или доступ к медицинской помощи.
Доказательства подтверждают необходимость соблюдения мер предосторожности и проявления смирения
Подход Калифорнии, ориентированный на дизайн, отражает обоснованные опасения, но имеющиеся данные не подтверждают простое утверждение о том, что любое использование социальных сетей вызывает психические заболевания. Федеральное консультативное заключение показало, что до 95 процентов подростков в возрасте от 13 до 17 лет используют социальные платформы, и что более трех часов в день в одном лонгитюдном исследовании было связано с двукратным увеличением риска негативных последствий для психического здоровья. В том же обзоре подчеркивалось, что эффекты различаются в зависимости от ребенка, контента, вида деятельности и степени, в которой использование социальных сетей вытесняет сон, физическую активность или личное общение.
Аналогичным образом, в консенсусном обзоре Национальных академий вопрос рассматривался как с точки зрения вреда, так и пользы, включая социальные связи, формирование идентичности и доступ к информации. Эта сложность важна, поскольку самый сильный политический аргумент заключается не в том, что каждое цифровое взаимодействие опасно; он заключается в том, что дети не должны нести весь риск, связанный с системами, оптимизированными на основе ограниченных независимых данных о влиянии на развитие.
Критики утверждают, что предложенное Калифорнией решение создает и другие опасности. Противники заявляют, что широкие определения могут исключить молодых людей из полезных сообществ, а проверка возраста может потребовать сбора конфиденциальных данных, удостоверяющих личность. Законопроект AB 1709 предвидит часть этой напряженности, поручив своей консультативной комиссии изучить вопросы конфиденциальности, точности, осуществимости и влияния на маргинализированную молодежь, однако консультативный орган сам по себе не может предотвратить чрезмерный сбор данных или разрешить конституционные споры.
Поэтому внедрение будет столь же важным, как и принятие закона. Регуляторы должны отличать разумные сигналы о возрасте от навязчивых проверок личности, аудиторы должны быть достаточно независимыми, чтобы проверять не только документы, а публичная отчетность должна быть достаточно подробной, чтобы информировать семьи и учреждения, не раскрывая при этом данные о детях. Если эти условия будут несоблюдены, режим безопасности сможет обеспечить формальное соответствие требованиям, оставив при этом неизменными основные характеристики продукта.
Вывод для педагога
Для руководителей школ K–12 пакет мер, принятый в Калифорнии, превращает управление цифровой безопасностью не только в вопрос поведения учащихся, но и в вопрос управления продуктом. Непосредственным институциональным последствием является необходимость знать, какие утвержденные сервисы содержат персонализированные ленты новостей, дополнительные функции, постоянную память, уведомления или функции подтверждения возраста, и можно ли отключить эти элементы без удаления самого образовательного сервиса. При проведении закупочных проверок может потребоваться изучение оценок безопасности, каналов сообщения об инцидентах, графиков аудита и существенных обновлений продукта наряду с ценой, доступностью, кибербезопасностью и соответствием образовательным требованиям.
Для преподавателей и сотрудников, оказывающих поддержку учащимся, эти законы уточняют, что цифровая грамотность остается необходимой даже при улучшении защиты на уровне продукта. Учащиеся по-прежнему должны понимать принципы убеждения, ограничения автоматизированных консультаций и разницу между ответом чат-бота и квалифицированной поддержкой со стороны человека. Учебным заведениям также потребуются четкие механизмы эскалации в случаях, когда технологии выявляют проблемы, связанные с членовредительством, эксплуатацией или острым стрессом.
Для руководителей высших учебных заведений явное исключение для образовательной сферы в законе о чат-ботах-компаньонах заслуживает внимательного прочтения, а не самоуспокоения. Университеты, разрабатывающие инструменты для консультирования, репетиторства или поддержания благополучия, могут столкнуться с меньшими обязательствами в соответствии с этим конкретным законом, однако остаются те же вопросы о памяти, зависимости, раскрытии информации и человеческом контроле. Калифорнийский эксперимент будет наиболее полезен, если преподаватели будут рассматривать соблюдение закона как минимальный уровень и оценивать, способствует ли каждая технология достижению определенной образовательной цели без создания ненужных издержек, связанных с разработкой, конфиденциальностью или безопасностью.