Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц
Шрифт:
Интервал:
Закладка:
"Он знал", - сказал Бежар. Главный директор по продуктам Facebook, похоже, понял доводы Бежара: платформы компании не позволяли пользователям серьезно возражать против того, как с ними обращаются, и тем более не давали им инструментов, чтобы рассчитывать на что-то лучшее. Но, выслушав предложения Бежара, в том числе о том, что, возможно, компании следует срочно начать работать над снижением доли подростков, которые еженедельно сообщают о нежелательном сексуальном контенте, он остался безучастным. "О да, это звучит очень интересно", - вспоминает Бежар, что сказал ему Кокс. "Позвольте мне передать это Гаю Розену".
Розену, архитектору правоприменительной деятельности Facebook, основанной на метриках, явно не хватало ни интереса, ни влияния, чтобы продвинуть подобное предложение. Отказ привел Бежара в изумление. "Кокс был одним из тех людей, которые прикрывали меня, когда я работал в компании. Он действительно получил о сострадании, и он поддержал это предложение для Марка". (Представитель компании сказал, что направление Кокса просто отражало его уверенность в том, что Розен, как глава Integrity, был подходящим руководителем для обсуждения этого вопроса).
Возможно, было маловероятно, что кто-то сможет убедить Цукерберга переосмыслить то, как он создал Facebook. Без поддержки Кокса дело было проиграно. В конечном итоге компания выпустила несколько незначительных функций в соответствии с тем, о чем думал Бежар, но он считал их слабыми и ориентированными на пиар. Ограничение возможности взрослых заводить личные разговоры с детьми после того, как их неоднократно блокировали несовершеннолетние пользователи, было неясной мерой, а не скачком вперед.
К октябрю контракт Бежара закончился. Даже если бы он не закончился, не было бы смысла оставаться.
"Машина просто продолжала работать так, как работала", - сказал он.
-
Примерно в то же время, что и второй уход Бежара, Брэндон Сильверман также отправился в путь, хотя и по другой причине. Позволяя репортерам, правозащитным группам и ученым отслеживать и изучать вирусный контент, CrowdTangle оказался слишком полезным, позволяя посторонним обнаруживать те же проблемы с качеством и алгоритмами, которые Сильверман внутри компании отмечал для высшего руководства.
Иногда экспозиция меняла важные решения. Когда в мае 2020 года фильм о заговоре COVID под названием "Пландемия" взорвался в Facebook и на конкурирующих платформах, Каплан и команда по публичной политике не позволили команде по здравоохранению немедленно удалить его, пока репортер New York Times не написал в твиттере, что, согласно данным CrowdTangle, "Пландемия" была постом номер один в Facebook. Команда по политике изменила свое решение и одобрила удаление без дальнейших обсуждений.
Даже угроза того, что кто-то может за этим наблюдать, могла привлечь внимание руководства. Всякий раз, когда Сильверман приходил к руководителю с приборной панелью, показывающей, что Facebook в этот день выкачивает особенно постыдный или потенциально вредный контент, первый вопрос неизменно звучал так: "Значит, кто-то может это увидеть? Когда ему сообщали, что могут, PR-пожар становился приоритетом.
Если у прозрачности есть свои издержки и преимущества, то ничто не подчеркивает издержки лучше, чем бот для Twitter, созданный репортером New York Times Кевином Рузом. Используя методику, созданную с помощью сотрудника CrowdTangle, Руз нашел хитроумный способ ежедневно составлять десятку самых высокововлеченных материалов платформы в США, создавая таблицу лидеров, которая демонстрировала, насколько сильно пристрастные издатели и агрегаторы вирусного контента доминируют в сигналах вовлеченности, которые Facebook ценит больше всего.
Степень, до которой этот единственный автоматизированный аккаунт в Twitter задел руководство Facebook, трудно переоценить. Алекс Шульц, вице-президент, возглавляющий команду роста Facebook, был особенно возмущен - отчасти потому, что считал необработанные показатели вовлеченности обманчивыми, но в большей степени потому, что это был собственный инструмент Facebook, напоминающий миру каждое утро в 9:00 утра по тихоокеанскому времени, что контент платформы - мусор.
"Реакцией было доказать, что данные неверны", - вспоминает Брайан Боланд. Но попытки использовать другие методики приводили лишь к появлению десятки лучших списков, которые были почти столь же нелестными. Шульц начал лоббировать идею полного отказа от CrowdTangle, заменив ее периодическими отчетами о лучшем контенте собственной разработки. По словам Шульца, это все равно будет более прозрачно, чем то, что предлагает любой из конкурентов Facebook.
Еще до того, как CrowdTangle разозлила одного из топ-менеджеров компании, она была уязвима. Поскольку команда Сильвермана работала с множеством различных продуктовых групп, у нее не было ни единого сторонника из числа руководителей, ни стабильного бюджета. Боланд обосновал ценность работы CrowdTangle, разослав в конце 2020 года записку примерно четырем сотням своих коллег - вице-президентов Facebook - с призывом присоединиться к нему и поддержать ее и другие усилия по обмену данными с внешними исследователями. Подобно тому, как Facebook предоставляет рекламодателям данные об эффективности их маркетинговых кампаний, утверждал Боланд, компания должна предоставлять общественности достаточно информации, чтобы решить, обоснованна ли критика в адрес ее платформ. "Вы можете выбрать инвестирование в понимание этих областей, выделив на это 2021 год ", - написал Боланд. "Не ждите, пока кто-то сделает это централизованно, если вы считаете это важным - мы не на пути к этому".
Однако после выборов 2020 года и беспорядков в Капитолии Facebook был в синяках, и Шульц легко выиграл эту борьбу. В апреле 2021 года Сильверман собрал своих сотрудников на конференцию и сообщил им, что команда CrowdTangle расформировывается. Сам инструмент будет жить, по крайней мере, некоторое время, но под контролем команды Розен "Целостность". Усилия по созданию новых функций были прекращены.
"Брэндон загорелся идеей создания прозрачности для Facebook", - вспоминает Боланд. "Он хотел сделать данные Facebook общедоступными и легко усваиваемыми по всему миру, чтобы исследователи и журналисты могли получить к ним доступ".
К тому времени, когда команда CrowdTangle была распущена, Боланд уже ушел. Когда летом 2020 года Крис Кокс вернулся в Facebook, Боланд обратился к нему с предложением создать новую команду, которая будет реагировать на внешнюю критику в адрес компании, не пытаясь ее опровергнуть, а выясняя, соответствует ли она действительности.
"Крис Кокс был тем человеком, который мог бы заняться этим делом, но к тому времени он вернулся в компанию на две-три недели", - сказал Боланд. И снова Кокс не дал ответа. "Это умерло как хныканье". Несмотря на то, что Боланд был откровенен внутри Facebook, он также ушел тихо.
"Я все еще боролся с мыслью: как я могу верить в то, что я привык считать негативным влиянием платформы, когда каждый руководитель высшего звена говорит мне, что я ошибаюсь?"
