На этой неделе Верховный суд рассмотрел правовые основы современного социального интернета, заслушав аргументы по вопросу о том, защищает ли статья 230 Закона о пристойности коммуникаций компанию Google, когда системы рекомендаций YouTube автоматически предлагают пользователям видео. Дело «Гонсалес против Google»— это первый случай, когда суд напрямую рассмотрел сферу действия закона 1996 года, который более четверти века определяет ответственность онлайн-платформ.
Спор возник в связи с терактами Исламского государства в Париже в 2015 году, в результате которых погибла 23-летняя американская студентка Ноэми Гонсалес. Ее семья утверждает, что алгоритмы рекомендаций YouTube вышли за рамки простого размещения контента третьих лиц, активно сопоставляя пользователей с видеороликами Исламского государства. Google утверждает, что рекомендации являются частью обычных редакционных функций, защищенных статьей 230. Стенограмма устных слушаний показывает, что судьи неоднократно проверяли, где можно провести юридически значимую границу между организацией контента и его созданием.
Закон, написанный до появления алгоритмических лент новостей
Раздел 230 в целом предусматривает, что интерактивный компьютерный сервис не может рассматриваться как издатель или распространитель информации, предоставляемой другим поставщиком информационного контента. Конгресс принял его в 1996 году, задолго до того, как системы рекомендаций стали центральным элементом социальных сетей и видеоплатформ. В материалах дела Гонсалеса содержится широкий спектр аргументов, в которых обсуждается вопрос о том, является ли алгоритмическое ранжирование просто современной версией редакционного отбора или отдельной функцией продукта, которая может выходить за рамки закона.
В ходе слушаний во вторник судьи выразили обеспокоенность тем, что предложенное любой из сторон правило может иметь последствия, выходящие далеко за рамки YouTube. Поисковые системы, онлайн-торговые площадки, социальные сети, новостные ленты и даже базовые меню веб-сайтов используют автоматизированные системы для сортировки или рекомендации материалов. Правило, которое само по себе лишает рекомендации защиты, предусмотренной статьей 230, может подвергнуть платформы гораздо большему объему судебных разбирательств всякий раз, когда контент третьих лиц способствует предполагаемому ущербу.
Федеральное правительство заняло промежуточную позицию. В своем заключении amicus curiaeМинистерство юстиции утверждало, что статья 230 не обеспечивает категорическую защиту каждой рекомендации только потому, что она касается контента третьих лиц, но также отклонило правило, которое автоматически объявляло бы незаконными обычную сортировку или рекомендацию. Правительство призвало суд провести различие между исками, направленными на привлечение платформы к ответственности как издателя, и исками, направленными против собственных действий платформы.
Вопрос об алгоритмах оказывается сложным
Практическая сложность задачи стала очевидной, когда судьи потребовали от адвокатов привести примеры. Платформа должна использовать какой-либо механизм для определения того, что отображается первым, что группируется вместе и что пользователь видит дальше. Алфавитные списки, хронологические ленты и персонализированное ранжирование — все это предполагает правила представления информации. Вопрос в том, передает ли персонализированная рекомендация что-то, что можно отнести к платформе независимо, или же она просто отображает материалы третьих лиц в соответствии с автоматизированным редакционным процессом.
Аудиозапись заседания суда свидетельствует о заметной осторожности судейской коллегии. Несколько судей усомнились в том, что теория истцов может ограничиваться вредоносным контентом террористического характера, а не распространяться на весь интернет. Другие поставили под сомнение позицию Google, согласно которой рекомендации всегда защищены, если исходный контент был создан кем-то другим.
За этим делом внимательно следят, поскольку суды низшей инстанции, как правило, толкуют статью 230 широко, часто отклоняя иски, направленные на привлечение платформ к ответственности за размещение, организацию или рекомендацию пользовательского контента. Более узкое толкование Верховного суда само по себе не решило бы вопрос о том, несет ли Google в конечном итоге ответственность за теракт в Париже, но оно могло бы позволить большему числу исков пройти путь от предварительного ходатайства об отклонении иска до этапа сбора фактических доказательств.
Второй случай привлекает внимание к законодательству о терроризме
На следующий день после дела Гонсалесасуд рассмотрел дело Twitter против Taamneh, связанный с этим спор, который может определить, нужно ли вообще рассматривать вопрос о применении статьи 230. Аргумент в деле Taamneh касается Закона о борьбе с терроризмом и того, могут ли компании социальных сетей нести ответственность за пособничество и подстрекательство к терроризму, поскольку террористические организации использовали их широко доступные услуги.
В деле Таамнех поднимается другой ключевой вопрос: что значит для компании «сознательно» оказывать «существенную помощь» в совершении акта международного терроризма, если та же платформа доступна миллиардам обычных пользователей? Если суд придет к выводу, что истцы не представили достаточных оснований для привлечения к ответственности за пособничество в соответствии с законом о терроризме, он может прекратить судебное разбирательство, не объявляя о всеобъемлющей интерпретации статьи 230.
Последовательность имеет значение. Суд назначил оба спора на февральское заседание, и судьи неоднократно ссылались на оба дела. Такое объединение дает Суду возможный узкий путь: сначала разрешить иск о терроризме, предусмотренный законом, а затем решить, необходимо ли широкое решение по вопросу об иммунитете платформ.
Потенциальные последствия для технологической отрасли
Для технологических компаний на кону стоят не только юридические, но и операционные аспекты. Персонализированное ранжирование — ключевая функция современных цифровых продуктов. Системы рекомендаций определяют, какие видео, публикации, товары и рекламу видят пользователи, и компании постоянно совершенствуют эти системы, используя сигналы вовлеченности и модели машинного обучения. Если рекомендации могут создавать прямую ответственность, не связанную с самим контентом, платформам, возможно, потребуется пересмотреть методы модерации, ранжирования и документирования с учетом нового риска судебных разбирательств.
В то же время истцы и их сторонники утверждают, что широкая неприкосновенность позволила платформам избежать ответственности за собственные решения в отношении предлагаемых продуктов. Их теория фокусируется не на самом существовании вредоносной речи третьих лиц, а на программном обеспечении, которое отбирает и продвигает эту речь среди конкретных пользователей. Это различие имеет важное технологическое значение, даже если правовая граница остается трудноопределимой.
Суд пока не указал, когда вынесет решение. Архив его аргументации помещает эти дела в контекст судебного периода, уже насыщенного важными спорами о федеральных регулирующих полномочиях. Однако для технологического сектора мало вопросов имеют столь фундаментальное значение. Раздел 230 помог создать правовую среду, в которой платформы могли масштабироваться, не принимая на себя ответственность, подобную ответственности издателей, за каждый размещенный пользователями материал. Теперь судьям предстоит решить, как эта структура применяется к интернету, все больше организованному не статическими страницами, а алгоритмами, генерирующими миллиарды рекомендаций в режиме реального времени.