В пятницу итальянское ведомство по защите персональных данных ввело временное ограничение на обработку компанией OpenAI персональных данных итальянских пользователей через ChatGPT, что стало самым значительным на сегодняшний день регуляторным вмешательством в отношении быстрорастущего сервиса генеративного искусственного интеллекта.

Итальянский регулятор, известный как Garante, в своем постановлении от 31 марта , что начал расследование после выявления проблем, связанных с уведомлениями о конфиденциальности, правовой основой для масштабного сбора личной информации, используемой для обучения алгоритмов, неточными персональными данными, генерируемыми системой, и отсутствием эффективного механизма проверки возраста пользователей. Он также указал на инцидент с безопасностью 20 марта, в результате которого были раскрыты названия чатов некоторых пользователей и ограниченная платежная информация.

Обучающие данные выходят на первый план в дискуссии об искусственном интеллекте

Данное постановление выходит за рамки механизма одной утечки данных. Гарант заявил, что, по всей видимости, нет никаких правовых оснований для «массового сбора и обработки» персональных данных, используемых для обучения базовых алгоритмов ChatGPT. Этот иск затрагивает фундаментальный вопрос для современного генеративного ИИ: может ли широкое распространение информации в масштабах интернета соответствовать европейским требованиям к законной, прозрачной и соразмерной обработке.

Компания OpenAI описывает свои модели как системы, обученные на сочетании общедоступной информации, лицензированных материалов и данных, созданных людьми-тренерами, однако компания не публикует полный список обучающих документов. Вмешательство регулятора может потребовать более точного объяснения того, какие персональные данные используются, почему их обработка является законной и какие права имеют физические лица, если результаты работы модели содержат неточную информацию о них.

Решение было принято всего через две недели после того, как OpenAI выпустила GPT-4, более совершенную модель, способную принимать как изображения, так и текстовые входные данные, и которая, по утверждению компании, демонстрирует значительно лучшие результаты, чем более ранние системы, во многих профессиональных и академических тестах. Этот запуск усилил как коммерческий интерес, так и пристальное внимание к надежности системы.

Утечка данных 20 марта придала дополнительную срочность ситуации

Компания OpenAI сообщила, что 20 марта программная ошибка привела к отключению ChatGPT, в результате чего некоторые пользователи смогли увидеть заголовки переписок других пользователей. В подробном отчете об инцидентекомпания заявила, что та же ошибка могла привести к утечке информации, связанной с платежами, у 1,2% активных подписчиков ChatGPT Plus в течение девяти часов, включая имена, адреса электронной почты, платежные адреса, сроки действия карт и последние четыре цифры номеров карт.

В результате инцидента не были раскрыты полные номера кредитных карт, и компания OpenAI заявила, что связалась с пострадавшими пользователями. Однако это стало конкретным примером рисков для конфиденциальности, связанных с сервисом, который миллионы людей используют для написания текстов, программирования, исследований и все более деликатных разговоров.

Таким образом, действия Гаранта объединяют два различных регуляторных вопроса: традиционные обязательства в области кибербезопасности, связанные с нарушением безопасности, и более широкие вопросы о том, могут ли системы генеративного искусственного интеллекта на законных основаниях собирать, делать выводы и воспроизводить персональную информацию в больших масштабах.

Италия становится первым крупным западным примером для подражания

The Guardian сообщила , что Италия ввела ограничения на использование ChatGPT на время расследования регулирующего органа, став первой западной страной, предпринявшей столь прямой шаг против этого сервиса. В ответ компания OpenAI заблокировала доступ в Италии и заявила, что, по ее мнению, соблюдает закон о защите персональных данных.

Как сообщило издание Euronews , компании OpenAI было предоставлено 20 дней на то, чтобы сообщить о принятых мерах по соблюдению требований. В соответствии с Общим регламентом по защите данных (GDPR) Европы, нарушения могут повлечь за собой штрафы в размере до 20 миллионов евро или 4% от годового дохода компании во всем мире, в зависимости от положений регламента и обстоятельств.

Регулятивные меры также поднимают сложный вопрос правоприменения. ChatGPT — это облачный сервис, предоставляемый по всему миру, в то время как законодательство о конфиденциальности носит территориальный характер и основано на правах. OpenAI может ограничивать доступ по географическому признаку, но для решения основных вопросов может потребоваться изменение управления данными, уведомлений, контроля возраста, разработки моделей или процедур исправления информации — а не просто географическая блокировка.

Давление на передовой искусственный интеллект усиливается

Инициатива Италии разворачивается на фоне более широкой дискуссии о том, насколько быстро следует внедрять передовые системы искусственного интеллекта. Более тысячи исследователей и руководителей технологических компаний подписали открытое письмо с призывом приостановить на шесть месяцев обучение систем, более мощных, чем GPT-4, до разработки стандартов безопасности. Письмо не является нормативным документом, и предлагаемая приостановка носит добровольный характер, но оно иллюстрирует растущую обеспокоенность по поводу того, что управление развивается медленнее, чем технические возможности.

В то же время коммерческая конкуренция усиливается. Microsoft внедряет технологию OpenAI в поисковое и офисное программное обеспечение, Google разрабатывает собственные диалоговые системы, а стартапы создают приложения на основе больших языковых моделей. Экономический стимул заключается в быстром внедрении; органы по защите конфиденциальности и безопасности сейчас демонстрируют, что внедрение может повлечь за собой обязательства еще до того, как будут установлены отраслевые стандарты.

В опубликованном TechCrunch отчете отмечалось, что итальянское ведомство ставит под сомнение не только прозрачность, но и точность персональных данных, генерируемых ChatGPT. Это особенно важный вопрос для генеративных моделей, поскольку они извлекают факты не так, как обычные базы данных. Они генерируют статистически вероятные утверждения и могут выдавать уверенные, но ложные заявления.

В сообщении Reuters, опубликованном на Investing.com, говорится, что итальянские власти незамедлительно отреагировали, пока регулятор проводит расследование. Другие европейские органы по защите данных, вероятно, будут внимательно следить за этим делом, поскольку GDPR применяется на всей территории Европейского союза, несмотря на то, что обеспечение соблюдения закона осуществляется национальными регуляторами.

Результат может стать своего рода образцом того, как законодательство о защите персональных данных может применяться к генеративному искусственному интеллекту. Центральные вопросы больше не носят теоретический характер: какие данные могут быть использованы для обучения модели, что необходимо сообщать пользователям, как исключаются или защищаются несовершеннолетние, как исправляется неточная личная информация и кто несет ответственность, когда модель ее генерирует. Италия теперь включила эти вопросы в формальный процесс регулирования, превратив ChatGPT не только в технологический феномен, но и в проверку того, может ли существующее законодательство о защите персональных данных регулировать новый класс систем машинного обучения.