Европейский парламент проголосовал 499 голосами против 28 при 93 воздержавшихсяза принятие своей переговорной позиции по Закону об искусственном интеллекте, приблизив Европейский союз к созданию первой в мире широкой законодательной базы для регулирования искусственного интеллекта и добавив новые обязательства, направленные на быстрорастущее поколение систем, лежащих в основе ChatGPT и аналогичных инструментов. Голосование 14 июня определяет позицию Парламента для переговоров с Советом Европейского союза, который принял свой собственный подход в декабре.

В заявлении парламента говорится, что законодатели хотят, чтобы системы искусственного интеллекта, работающие в Европе, были безопасными, прозрачными, отслеживаемыми, недискриминационными и экологически ответственными. Принятые поправки сохраняют архитектуру Комиссии, основанную на оценке рисков, но расширяют запреты и создают конкретные требования к прозрачности для систем общего назначения и генеративных систем. Результатом не является окончательный закон; он открывает путь для межведомственных переговоров, которые определят текст.

Закон, основанный на оценке рисков, расширяется для учета возможностей генеративного искусственного интеллекта

Европейская комиссия впервые предложила законопроект об искусственном интеллекте в апреле 2021 года, еще до того, как нынешняя волна общедоступных систем генеративного ИИ сделала большие языковые модели общедоступной технологией. Первоначальное предложение было построено вокруг категорий риска. Некоторые виды использования были бы запрещены, системы высокого риска подлежали бы обязательным требованиям, а приложения с более низким уровнем риска получили бы более мягкие обязанности по обеспечению прозрачности.

Парламент сохранил эту базовую структуру, адаптировав ее к быстро меняющемуся рынку в ходе законодательного процесса. В соответствии с принятой позицией, поставщики базовых моделей должны будут оценивать и снижать прогнозируемые риски, соответствовать требованиям к проектированию и документации, а также регистрировать соответствующие модели в базе данных ЕС. Генеративные системы должны будут раскрывать информацию о том, что контент был создан с помощью ИИ, проектировать модель таким образом, чтобы предотвратить использование незаконного контента, и публиковать краткие описания материалов, защищенных авторским правом, используемых для обучения.

Эти положения отражают сложность регулирования технологий, которые могут использоваться во многих последующих приложениях. Модель, обученная для генерации текста в целом, впоследствии может быть интегрирована в обслуживание клиентов, образование, разработку программного обеспечения, управление здравоохранением или другие сферы с совершенно разными профилями риска. Поэтому подход парламента накладывает некоторые обязательства на уровне модели, сохраняя при этом более строгие правила в случае развертывания системы в условиях, отнесенных к категории высокого риска.

Биометрическое наблюдение и запрещенные практики

Парламент также расширил список практик, которые он хочет запретить. Текст ограничит дистанционную биометрическую идентификацию в общедоступных местах и ​​запретит определенные формы биометрической классификации, использующие конфиденциальные характеристики. Он также запретит несанкционированное извлечение биометрических данных из интернета или с камер видеонаблюдения для создания баз данных распознавания лиц — метод, вызвавший обеспокоенность среди групп, защищающих права на неприкосновенность частной жизни и гражданские свободы.

Законодатели также нацелились на системы, предназначенные для определения эмоций в правоохранительных органах, при управлении границами, на рабочих местах и ​​в школах, а также на приложения, использующие уязвимости или применяющие определенные методы социального рейтинга. Эти положения выходят за рамки более ограниченных запретов, содержащихся в первоначальном предложении Комиссии, и, вероятно, станут одними из вопросов, наиболее интенсивно обсуждаемых с государствами-членами.

В своем общем подходе, принятом в декабре 2022 года, Совет также одобрил режим, основанный на оценке рисков, но изменил определения и подход к искусственному интеллекту общего назначения. Совет заявил, что его цель состоит в обеспечении безопасности систем, размещаемых на рынке ЕС, и соблюдении ими основных прав, одновременно поощряя инвестиции и инновации. Различия между двумя институтами теперь определяют пространство для переговоров.

Системы высокого риска требуют документирования и контроля

В основе законодательства по-прежнему лежит категория систем высокого риска. Системы, используемые в таких областях, как критическая инфраструктура, образование, занятость, основные услуги, правоохранительные органы, миграция и отправление правосудия, могут сталкиваться с требованиями, касающимися управления рисками, качества данных, технической документации, ведения учета, человеческого контроля, точности и кибербезопасности. Парламент также хочет, чтобы пользователи имели возможность подавать жалобы и получать объяснения в определенных случаях, когда системы высокого риска существенно влияют на них.

Данная структура имеет важное значение, поскольку многие требования применяются до или во время выхода систем на европейский рынок, а не только после причинения вреда. Это создает обязательства по соблюдению требований для разработчиков и пользователей, а также дает регулирующим органам основу для проверки документации моделей, управления данными и мониторинга. Для технологических компаний практические вопросы включают в себя определение того, какие системы попадают в какую категорию, кто несет обязательства в цепочке поставок и как применяются правила, когда модели общего назначения адаптируются третьими сторонами.

В современных репортажах The Washington Post отмечалось, что голосование состоялось в то время, когда правительства по всему миру активизировали усилия по изучению и регулированию быстро совершенствующихся систем искусственного интеллекта. Процесс в ЕС необычайно продвинут, поскольку начался за несколько лет до нынешнего бума генеративного ИИ. Это преимущество позволило законодателям перейти от общих принципов к обязательным к исполнению нормативным актам, в то время как другие юрисдикции по-прежнему сосредоточены на добровольных обязательствах, полномочиях ведомств и экспериментальном законодательстве.

Окончательный баланс будет определен в ходе переговоров

Следующий этап — так называемые трилогии между Парламентом, Советом и Европейской комиссией. Каждое учреждение вступает в процесс с разным текстом и акцентом на политике. Окончательный регламент должен согласовать более жесткие ограничения Парламента с позицией государств-членов и урегулировать технические вопросы, касающиеся моделей финансирования, классификации как объектов высокого риска, исключений для правоохранительных органов и правоприменения.

Протокол декабрьского заседания Совета показывает, что государства-члены уже согласовали мандат на ведение переговоров до того, как Парламент завершил свою работу. Это означает, что в законодательном процессе теперь есть две формальные позиции, способные перейти к заключительным переговорам. Политическое соглашение может потребовать еще нескольких месяцев, за которыми последует юридическая разработка и переходный период, прежде чем большинство обязательств вступят в силу.

Законодательство также имеет последствия за пределами Европы. Компаниям, разрабатывающим или продающим системы искусственного интеллекта на рынке ЕС, может потребоваться разработать процессы обеспечения соответствия, которые повлияют на продукты, предлагаемые в других странах. Ранее Европа использовала законодательство о доступе к рынку и защите конфиденциальности для формирования глобальной корпоративной практики; сторонники Закона об искусственном интеллекте надеются, что аналогичный эффект позволит установить базовые требования к документации, прозрачности и управлению рисками.

В то же время эффективность закона будет зависеть от определений, которые остаются технически сложными. Искусственный интеллект охватывает широкий спектр статистических и программных систем, в то время как базовые модели могут быстро развиваться и перепрофилироваться после выпуска. Слишком узкие правила могут устареть; слишком широкие правила могут привести к включению обычного программного обеспечения в дорогостоящие структуры соответствия. Текст парламента пытается урегулировать это противоречие посредством иерархии рисков и конкретных обязательств для мощных моделей общего назначения.

В статье журнала TIME голосование в парламенте было названо важным шагом на пути к всеобъемлющему регулированию ИИ, особенно потому, что генеративные системы вынудили законодателей пересмотреть проект, разработанный до публичного выпуска ChatGPT. Теперь центральный вопрос смещается с того, будет ли Европа регулировать ИИ, к точным границам окончательного режима.

Голосование, завершившееся со счетом 499 против 28, дает парламенту сильный мандат на ведение переговоров. Оно не разрешает все технические или политические споры, но представляет собой конкретную модель регулирования: запрет ограниченного круга неприемлемых способов использования, введение контроля над системами высокого риска, требование прозрачности от генеративных моделей и создание архитектуры правоприменения, способной охватить компании по всей цепочке поставок ИИ. Предстоящие переговоры определят, какая часть этой структуры сохранится в законодательстве.