В крупнейшей школьной системе страны формируется новый разрыв между образованием и технологиями: младшим школьникам рекомендуют меньше использовать искусственный интеллект, в то время как учителя и технологические компании заключают контракты, призванные сделать ИИ более безопасным там, где он разрешен. В среду Microsoft, Американская федерация учителей и Объединенная федерация учителей объявили о национальном стандарте безопасности и конфиденциальности ИИ для школ, всего через несколько дней после того, как Нью-Йорк ввел годичный мораторий на использование генеративного ИИ учащимися до восьмого класса включительно.
Соглашение призвано преобразовать общие принципы в юридически обязательные договорные условия. Microsoft заявила, что новый стандарт запретит использование данных учащихся и преподавателей для обучения моделей ИИ, исключит продажу или перепрофилирование этих данных, потребует человеческого контроля при принятии важных решений и предоставит школьным округам более четкий контроль над хранением, удалением и изменениями в продуктах. Школьные системы, использующие продукты Microsoft, могут включить эти меры защиты непосредственно в соглашения с клиентами.
В Нью-Йорке проводится четкая граница по возрасту
Политика Нью-Йорка затрагивает почти 600 000 учеников с подготовительного класса до восьмого класса включительно. В мэрии заявили, что годичный мораторий призван сохранить человеческое взаимодействие, навыки самостоятельного решения проблем и критического мышления, пока город изучает влияние ИИ на обучение. В объявлении города также ограничивается время, проводимое учениками младшего возраста за экраном, и запрещается использование чат-ботов-компаньонов во всех классах.
Данная политика не является полным отказом от ИИ. Учащиеся старших классов будут получать уроки по освоению ИИ дважды в год, а до 50 000 учеников смогут участвовать в тщательно контролируемых пилотных проектах с использованием проверенных инструментов. Учителя могут продолжать использовать одобренный ИИ для планирования уроков и выполнения оперативных задач, при этом исключения сохраняются для вспомогательных технологий, многоязычных учащихся и некоторых программ подготовки к карьере.
В руководстве по внедрению в государственных школах Нью-Йорка четко указаны возрастные категории: запрет на использование генеративного ИИ учащимися до восьмого класса включительно, ограниченное разрешенное использование в 9-12 классах, запрет на индивидуальное использование экранов для самых младших классов и рекомендуемые ежедневные ограничения на время использования экранов: 30 минут для 3-5 классов и 45 минут для 6-8 классов. Таким образом, в руководстве ИИ и использование экранов рассматриваются как вопросы развития, а не просто как вопросы академической честности.
Соглашение между Microsoft и профсоюзом направлено на решение другого риска
Новый национальный стандарт регулирует ситуацию, когда школы все же решают внедрить ИИ. Его предпосылка заключается в том, что школьным округам необходимы договорные рычаги влияния на поставщиков, а не добровольные обещания. Американская федерация учителей (AFT) и Объединенная федерация учителей (UFT) заявляют, что школы должны иметь возможность расторгать соглашения, требовать прозрачности и возмещения убытков, когда поставщики нарушают согласованные меры защиты. Это представляет собой переход от формальных этических заявлений к правилам закупок с юридическими последствиями.
Этот подход основан на многолетней работе профсоюза. С 2024 года в основе принципов AFT лежат конфиденциальность, контроль со стороны педагогов, человеческое взаимодействие и равенство. Профсоюз утверждает, что технологии должны поддерживать профессиональное суждение, а не заменять его, и что педагоги должны участвовать в принятии решений о проектировании, закупках и использовании в классе.
Такая позиция не делает профсоюз противником ИИ. В прошлом году AFT, UFT, Microsoft, OpenAI и Anthropic запустили учебную академию , призванную предоставить 1,8 миллионам членов AFT бесплатное обучение инструментам ИИ и методам работы в классе. Таким образом, формирующаяся модель предполагает избирательное внедрение: широкое обучение учителей, ограничение использования инструментов учащимися из группы высокого риска и установление обязательных условий для поставщиков.
Положение города быстро менялось
Нынешний мораторий в Нью-Йорке примечателен тем, что в начале этого года система двигалась в сторону более структурированного внедрения ИИ. В марте государственные школы Нью-Йорка опубликовали основанную на оценке рисков концепцию, которая поощряла ограниченное использование ИИ педагогами и приглашала общественность к обратной связи. В мартовских рекомендациях использовалась модель светофора для различения допустимых и недопустимых вариантов использования, и подчеркивалось, что ИИ никогда не сможет заменить суждение учителя.
К сентябрю городские власти пришли к выводу, что младшим школьникам необходима более жесткая пауза. Associated Press эта политика была названа самым масштабным ограничением использования ИИ для учащихся среди крупных школьных систем США, в то время как использование ИИ в старших классах по-прежнему сосредоточено на повышении грамотности и контролируемых экспериментах. Лос-Анджелес также перешел к временной блокировке генеративного ИИ для младших школьников, что свидетельствует о том, что крупные округа переходят к более осторожным мерам, чем те, которые применялись сразу после запуска ChatGPT.
Агентство Reuters сообщило, что мораторий в Нью-Йорке затрагивает около двух третей учащихся системы и приостанавливает работу примерно 40 продуктов на основе искусственного интеллекта, ориентированных на студентов, на время проведения проверки. Масштаб имеет значение, поскольку поставщики часто разрабатывают продукты и методы обеспечения соответствия требованиям, исходя из запросов крупнейших заказчиков.
Вывод для педагога
Для руководителей школ наиболее важным событием является разделение двух вопросов, которые часто рассматриваются как один: следует ли использовать генеративный ИИ в определенном возрасте и какие меры защиты должны существовать при использовании любой системы ИИ. Нью-Йорк отвечает на первый вопрос консервативно, учитывая особенности младших школьников. Соглашение между Microsoft, AFT и UFT пытается ответить на второй вопрос посредством формулировок в законодательстве о закупках и контрактах.
Это различие предоставляет школьным округам практическую основу. Школьная система может решить, что ученики начальной школы не должны взаимодействовать с генеративным ИИ, при этом продолжая использовать утвержденные инструменты для планирования уроков, обеспечения доступности или выполнения административных задач. Она также может потребовать от поставщиков письменного обязательства о том, что данные учащихся не будут использоваться для обучения моделей, что важные решения остаются под контролем человека и что семьи получают понятную информацию.
Главная сложность будет заключаться в реализации. Школьным округам понадобятся перечни продуктов с поддержкой ИИ, четкие определения использования этих продуктов учащимися, процессы проверки поставщиков, обучение учителей и механизмы обеспечения соблюдения условий контрактов. Им также потребуются данные о том, улучшает ли ограниченное или контролируемое использование ИИ процесс обучения, вредит ли ему или имеет ли различное воздействие в зависимости от возраста и предмета. Следующий год в Нью-Йорке станет масштабным естественным экспериментом, за которым будут наблюдать педагоги далеко за пределами города.
Общая тенденция очевидна: школы отходят от предположения, что больше технологий автоматически означает лучшее качество. Дискуссия смещается в сторону соответствия возрастным особенностям развития, измеримой образовательной ценности, конфиденциальности и ответственности человека. Для педагогов это означает, что политика в отношении ИИ все меньше касается существования технологии и все больше — того, кто ее контролирует, когда она должна использоваться в процессе обучения и какие меры защиты должны быть обязательными.