На этой неделе Facebook входил в число самых влиятельных технологических компаний мира, но теперь сталкивается с двумя необычайно прямыми вызовами этой власти: шестичасовым глобальным сбоем, который парализовал работу Facebook, Instagram, WhatsApp и Messenger, а также показаниями под присягой в Сенате бывшего сотрудника, утверждающего, что внутренние стимулы компании неоднократно ставили рост и вовлеченность пользователей выше безопасности пользователей.
Сбой начался в понедельник и распространился по всей глобальной инфраструктуре Facebook. Компания заявила, что изменение конфигурации магистральных маршрутизаторов, соединяющих ее центры обработки данных, непреднамеренно разорвало связь между ее объектами. В первоначальном техническом отчетеFacebook сообщила, что нет никаких доказательств вредоносной активности или компрометации пользовательских данных. Более подробный технический отчет гласит, что команда технического обслуживания фактически отключила центры обработки данных Facebook друг от друга и от интернета, а ошибка во внутреннем инструменте аудита не смогла заблокировать эту команду.
Сбой в сети обернулся глобальным событием в сфере коммуникаций
Технический сбой выявил, насколько обычная коммуникация теперь зависит от небольшого числа частных платформ. Инженеры Facebook описали каскадную проблему: после отключения магистральной сети инфраструктура системы доменных имен компании перестала передавать маршруты на свои серверы, многие внутренние инструменты также стали недоступны, и инженерам было трудно связаться с физическими центрами обработки данных, необходимыми для восстановления работы сервиса.
Эта архитектура превратила плановое техническое обслуживание в глобальный сбой. Пользователи временно перешли на конкурирующие сервисы, компании потеряли доступ к каналам связи с клиентами, а сообщества, которые в значительной степени полагаются на WhatsApp для повседневного обмена сообщениями, фактически оказались отрезанными от внешнего мира. Как газета Washington Post , сервис отслеживания сбоев Downdetector получил около 14 миллионов сообщений о том, что сервисы Facebook оставались недоступными в течение нескольких часов.
Этот сбой также продемонстрировал риски, возникающие, когда потребительские приложения, рекламные системы, службы идентификации и внутренняя корпоративная инфраструктура зависят от одной и той же базовой сети. Facebook заявил, что его системы намеренно спроектированы с многоуровневой физической и технической защитой, но эти меры защиты замедлили восстановление, поскольку инженеры не могли полагаться на обычные каналы удаленного доступа после сбоя сети.
За инженерным кризисом сразу же последовал кризис управления
На следующий день после сбоя бывший менеджер по продуктам Facebook Фрэнсис Хауген дала показания перед подкомитетом Сената по защите прав потребителей Комитета по торговле. Слушания 5 октября были посвящены внутренним исследованиям Facebook, касающимся детей, ранжирования контента и влияния платформ компании на пользователей.
В своих письменных показанияхХауген заявила, что работала над проблемой дезинформации в обществе и контрразведкой, и неоднократно сталкивалась с конфликтами между целями бизнеса и безопасностью. Она утверждала, что системы ранжирования компании могут усиливать распространение деструктивного или вредного контента, поскольку материалы, вызывающие сильные реакции, часто привлекают больше внимания.
Показания Хаугена прозвучали после слушаний 30 сентября, на которых глава глобального отдела безопасности Facebook Антигона Дэвис защищала подход компании к молодым пользователям. На тех же слушаниях в Сенате рассматривались внутренние исследования, касающиеся Instagram и психического здоровья подростков. Председатель комитета Мария Кантвелл и председатель подкомитета Ричард Блюменталь выразили заинтересованность в ужесточении правил конфиденциальности, прозрачности и безопасности детей.
Главный вопрос уже не в том, может ли Facebook модерировать всё подряд
Разворачивающаяся политическая дискуссия смещается от отдельных решений, касающихся контента, к проектированию самих систем Facebook. Аргумент Хаугена заключается в том, что важные решения принимаются до того, как будет проверена какая-либо отдельная публикация: алгоритмы рекомендаций определяют, какой материал будет распространяться дальше, системы ранжирования определяют, что пользователи увидят в первую очередь, а стимулы к использованию продуктов вознаграждают определенные виды поведения.
Это различие важно, потому что Facebook исторически защищал свои масштабы отчасти за счет инвестиций в автоматизированное обнаружение, проверку контента и команды по обеспечению безопасности. Критики все чаще задаются вопросом, может ли архитектура взаимодействия на платформе причинять вред быстрее, чем последующие системы могут с ним справиться. В заявлении комитета конкретно поднималась возможность усиления федеральной защиты данных детей и возобновления изменений в Законе о защите конфиденциальности детей в Интернете.
Facebook оспаривает распространенное мнение о том, что его бизнес извлекает выгоду из вредоносного контента, и заявляет, что его мотивация направлена на поддержание удовлетворенности пользователей и рекламодателей в долгосрочной перспективе. Однако на этой неделе внутренние решения компании стали предметом расследования Конгресса, а не просто корпоративной политики.
Масштабирование теперь является одновременно преимуществом и уязвимостью Facebook
Сбой в понедельник и показания во вторник касаются разных проблем, но указывают на один и тот же структурный факт: масштабы Facebook усиливают последствия как технических, так и политических решений. Ошибочная команда маршрутизатора может прервать связь для миллиардов пользователей. Изменение рейтинга может изменить то, что видят огромные группы людей. Дизайн продукта, направленный на повышение вовлеченности, может повлиять на социальное поведение далеко за пределами штаб-квартиры компании.
Компания и раньше сталкивалась с критикой по поводу конфиденциальности, честности выборов и модерации контента, в том числе в рамках более широкого расследования Сената по вопросам безопасности детей в интернете в начале этого года. На слушаниях Комитета по торговле рассматривались методы манипулятивного проектирования и работы с данными на основных технологических платформах. Нынешняя ситуация отличается сочетанием инсайдерской документации и широко заметного сбоя инфраструктуры, произошедших с разницей в несколько часов.
Для политиков первоочередные вопросы касаются прозрачности, независимого доступа к исследованиям, защиты несовершеннолетних и подотчетности рекомендательных систем. Для инженеров сбой поднимает отдельные вопросы о сегментации сети, оперативных мерах безопасности и процедурах восстановления. Для Facebook обе проблемы возникли в момент, когда его сервисы глубоко интегрированы в коммерцию, СМИ и частное общение во многих странах мира.
Компания восстановила свою сеть. Восстановление доверия к системам, построенным на её основе, будет более сложной задачей.