В среду Европейский парламент проголосовал 523 голосами против 46 за принятие Закона об искусственном интеллекте, при этом 49 членов воздержались, что переводит Европейский союз на заключительный этап принятия того, что законодатели называют первой в мире широкой правовой основой, регулирующей искусственный интеллект по степени риска. Законодательство предусматривает различные обязательства в зависимости от того, как используются системы ИИ, запрещает отдельные приложения, считающиеся неприемлемыми, и создает новые обязанности по обеспечению прозрачности и безопасности для мощных моделей общего назначения.

В своем заявлении от 13 мартапарламент сообщил, что закон призван защищать основные права, демократию, верховенство права и экологическую устойчивость, одновременно поддерживая инновации. Голосование стало результатом многолетних переговоров, начавшихся еще до бурного развития генеративного ИИ и существенно пересмотренных после того, как такие системы, как ChatGPT, продемонстрировали, как быстро универсальные модели могут распространяться в различных секторах.

Иерархия рисков заменяет универсальное регулирование в сфере ИИ

В основе Закона об искусственном интеллекте лежит иерархия, основанная на оценке рисков. Системы, считающиеся представляющими неприемлемые риски, будут запрещены, в то время как системы, классифицируемые как системы высокого риска, будут подвергаться строгим требованиям до развертывания и в процессе эксплуатации. К категориям высокого риска относятся системы, используемые в критической инфраструктуре, образовании, трудоустройстве, основных услугах, правоохранительных органах и других областях, где автоматизированные решения могут существенно повлиять на права или возможности людей.

Агентство Reuters сообщило, что разработчикам, работающим с системами высокого риска, придется решать вопросы управления рисками, качества данных, технической документации, ведения учета, контроля со стороны персонала и точности. Законодательство также ограничивает возможность удаленной биометрической идентификации в режиме реального времени правоохранительными органами, за исключением случаев совершения тяжких преступлений и угроз, которые определяются узким кругом лиц.

Некоторые виды использования ИИ будут полностью запрещены. В представленном парламентом документе рассматриваются такие варианты, как социальный рейтинг, определенные формы манипулятивного ИИ, эксплуатация уязвимостей, нецелевой сбор изображений лиц для создания баз данных распознавания, распознавание эмоций на рабочих местах и ​​в школах, а также некоторые формы прогнозирования преступности, основанные исключительно на профилировании или личных характеристиках.

Генеративный искусственный интеллект вынудил законодателей переписать соответствующую нормативную базу

Первоначальное предложение Европейской комиссии было представлено в 2021 году, до того, как крупные языковые модели стали продуктами массового рынка. Появление ChatGPT, GPT-4, Gemini и подобных систем создало проблему регулирования, поскольку универсальная модель может быть интегрирована в тысячи последующих приложений, а не подстраиваться под один конкретный сценарий использования.

Окончательный политический компромисс предусматривает создание отдельного уровня для ИИ общего назначения. Агентство Associated Press сообщило, что поставщики мощных моделей будут обязаны обеспечивать прозрачность, включая документацию об обучении и соблюдении европейских правил авторского права, в то время как модели, признанные создающими системный риск, будут иметь дополнительные требования к оценке и снижению рисков.

Данная структура призвана разделить ответственность между разработчиком модели и компанией, внедряющей ИИ в конкретной ситуации высокого риска. Универсальная модель может быть низкорискованной в одном приложении и стать частью высокорискованной системы при использовании для найма персонала, принятия медицинских решений или в критически важной инфраструктуре. Поэтому регулирующим органам необходима информация, которая будет перемещаться по всей цепочке поставок, а не останавливаться на первоначальном поставщике модели.

Биометрические данные и основные права остаются одними из наиболее спорных положений

Закон устанавливает строгие ограничения на биометрическую идентификацию и классификацию, но не вводит абсолютный запрет на использование полицией дистанционных биометрических систем. Некоторые виды использования остаются возможными при соблюдении определенных условий, что является компромиссом, вызвавшим критику со стороны правозащитных групп, в то время как правительства утверждают, что серьезные уголовные расследования требуют ограниченных исключений.

издание Euronews , два ведущих переговорщика от парламента назвали голосование историческим шагом к «безопасному и человекоцентричному» искусственному интеллекту. Законодательство также предоставляет людям право подавать жалобы и, в некоторых случаях, получать объяснения по поводу решений, принятых с использованием систем высокого риска.

Цель свода правил — охватить не только компании со штаб-квартирами в Европе. Поставщики, находящиеся за пределами ЕС, могут подпадать под действие правил, если их системы размещаются на европейском рынке или их продукция используется в Европейском Союзе. Этот экстерриториальный эффект является одной из причин, по которой американские технологические компании внимательно следят за внедрением этих правил.

Представители отрасли поддерживают общую концептуальную основу, но предупреждают о проблемах с ее внедрением

Технологические компании и бизнес-группы в целом признали необходимость регулирования ИИ, предупреждая при этом, что соблюдение нормативных требований не должно стать настолько сложным, чтобы замедлить внедрение ИИ в Европе по сравнению с Соединенными Штатами и Китаем. После голосования в среду BSA | The Software Alliance назвала этот закон важной вехой и призвала к продолжению сотрудничества между политиками и отраслью в процессе разработки дополнительных правил и руководящих указаний.

Другие представители отрасли более осторожны. Ars Technica сообщило об опасениях Ассоциации компьютерной и коммуникационной индустрии (CDNA) по поводу того, что некоторые обязательства могут замедлить инновации или подвергнуть системы с низким уровнем риска обременительным требованиям. Практические последствия во многом будут зависеть от стандартов, определений и решений по их применению, которые еще не разработаны.

Законодательство предусматривает значительные финансовые санкции. Серьезные нарушения могут повлечь за собой штрафы в размере десятков миллионов евро или процента от годового дохода по всему миру, при этом предельные суммы различаются в зависимости от характера нарушения. Такая шкала призвана гарантировать, что крупнейшие разработчики ИИ не будут просто считать затраты на соблюдение требований незначительными.

Создатели и издатели боролись за положения, регулирующие взаимосвязь между искусственным интеллектом общего назначения и защищенными авторским правом учебными материалами. Коалиция европейских творческих организаций заявила в своем заявлении от 13 марта , что закон потребует от поставщиков моделей общего назначения соблюдать политику авторского права и предоставлять достаточно подробные описания контента, используемого для обучения их систем.

Эти положения не разрешают все споры об авторском праве. Судам и регулирующим органам по-прежнему придется определять, как существующее законодательство об авторском праве применяется к обучению моделей, лицензированию и результатам их работы. Однако Закон об искусственном интеллекте создает обязанности по документированию и обеспечению прозрачности, которые могут облегчить правообладателям понимание того, как были разработаны модели, и предъявление исков, если они считают, что защищенные авторским правом произведения были использованы незаконно.

Решающий этап работы переходит от переговоров к реализации

Голосование в Парламенте в среду не является последним процедурным этапом. Совет Европейского союза еще должен официально утвердить согласованный текст, прежде чем он будет опубликован и вступит в силу. После этого обязательства будут вводиться постепенно, а не сразу. Ожидается, что сначала будут применяться запрещенные практики, затем правила для моделей общего назначения, а позже — полная система мер для лиц с высоким риском.

График внедрения создает новую гонку между регулирующими органами и технологиями. Органы по стандартизации, национальные власти и новое Управление по искусственному интеллекту Европейской комиссии должны определить, как компании должны демонстрировать соответствие требованиям, в то время как возможности моделей продолжают быстро развиваться. Эта задача особенно остро стоит для ИИ общего назначения, где показатели системного риска, вычислительных ресурсов, оценки и последующего использования остаются технически спорными.

Однако к субботе политическое направление стало ясным. 523 голоса «за» и 46 «против» обеспечили Закону об ИИ подавляющую поддержку парламента, и Европа готовится перейти от добровольных принципов ИИ к юридически обязательным обязательствам. Теперь вопрос заключается в том, сможет ли основанная на оценке рисков система защитить пользователей и ограничить опасные приложения, не замораживая при этом технические возможности в области, чьи возможности меняются быстрее, чем законодательный процесс, приведший к принятию закона.