Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц
Шрифт:
Интервал:
Закладка:
Facebook решил позволить Civic продолжить удаление таких страниц, как страница Колфаджа. Но до промежуточных выборов оставалось всего несколько недель, и они ожидали ответной реакции. Поэтому специалисты по связям с общественностью компании попросили Civic одним махом завершить все удаления, которые она планировала сделать до выборов. Это затронуло бы как левых, так и правых издателей, придав компании столь желанную видимость "сбалансированности". Если Facebook собирался возиться с политическими издательствами, он мог бы покончить с этим.
Утром 11 октября 2018 года команда, стоящая за удалением, щелкнула выключателем и удалила более восьмисот аккаунтов и страниц, принадлежащих либералам и консерваторам, сделав фотографию в память об этом событии. Натаниэль Глейхер, глава отдела политики кибербезопасности, объявил об удалении, назвав его необходимой реакцией на обман со стороны издателей.
Как и положено, Колфадж не унимался. "Я видел, как мои ноги разлетаются на куски, и терял друзей", - написал Колфадж на сайте "Новости правого крыла", вызвав сочувствие читателей. Он по имени обвинил Харбат в уничтожении средств к существованию раненого ветерана, лживо заявив, что она "ни разу" не высказывала беспокойства по поводу его страниц. Либеральные издатели, у которых были удалены страницы, также заявили о своем недоумении.
Борьба с авторитетными издателями Facebook не принесла компании друзей. Консервативные издания, включая Fox News, в целом приняли обвинения Колфаджа в антиконсервативной предвзятости, а такие издания, как Guardian и Washington Post, написали о двухпартийных "обвинениях в цензуре".
Каплан, давший Харбат добро на удаление, спросил ее, действительно ли эти удаления были необходимы.
"Да, Джоэл, я считаю, что это был правильный выбор", - ответил Харбат. "Мы дали им все возможности".
Каплан выглядел скептически, но не стал настаивать на своем. (Решение убрать Колфаджа, в частности, будет выглядеть еще лучше, когда он признает себя виновным в мошенничестве, связанном с его сбором 25 миллионов долларов, в основном через Facebook, для частного финансирования строительства пограничной стены Трампа. В итоге он был приговорен к более чем четырем годам тюремного заключения).
Какие бы смешанные чувства ни вызывали эти усилия у других сотрудников Facebook, команда Civic ликовала. Тесты показали, что за ночь количество американского политического спама сократилось на 20 процентов. Позже Чакрабарти признался своим подчиненным, что был удивлен тем, что им удалось принять серьезные меры против внутренних попыток манипулировать платформой. В частном порядке он ожидал, что руководство Facebook закроет эту попытку.
"Это массовое отключение показало, что вы можете существенно изменить поток контента на платформе таким образом, чтобы это было полезно и получило одобрение", - сказал Лю, менеджер по продуктам Civic. "Да, было несколько синяков, но в итоге все остались целы".
-
Несмотря на то что Facebook добилась определенных успехов, по мере приближения промежуточных выборов и гражданские, и высшие руководители компании продолжали волноваться. Facebook не могла позволить себе оплошать с проведением очередных американских выборов, даже несмотря на то, что все еще погрязла в противоречиях после предыдущих.
За полтора месяца до дня выборов Civic запустила "Военную комнату", чтобы провести ее в жизнь. Была ли эта инициатива задумана как способ собрать ресурсы в одном месте или как пиар-уловка - вопрос спорный, но конечный результат объединил в себе и то, и другое. Репортеры из New York Times, The Verge и TechCrunch провели экскурсии и написали о двадцати с лишним сотрудниках, которые оформили конференц-зал в Менло-Парке американским флагом и огромными мониторами с приборными панелями. Чакрабарти рассказал об усовершенствованных инструментах правоприменения, глубоком штате экспертов по безопасности и усилиях компании по выявлению угроз.
Какими бы ни были гарантии для общественности, которые должна была обеспечить "военная комната", это была не просто потемкинская деревня. Системы мониторинга в реальном времени были настоящими, как и возможности эскалации проблем до руководства компании. Каждый вечер один из членов команды отправлял Цукербергу, Сэндбергу и другим руководителям краткое изложение событий дня с подробным описанием того, чего они достигли, в чем им нужна помощь и что их беспокоит.
За несколько месяцев Civic проверила различные команды компании, занимающиеся вопросами целостности, в поисках новых инструментов "Разбить стекло", помимо тех, что были разработаны командой "Страны риска". Civic обнаружила, что команда, занимающаяся классификацией языка ненависти, работала над планом по замораживанию комментариев к "приманкам ненависти", то есть к расовым или религиозным сообщениям, которые процветали благодаря участию пользователей, наполнявших разделы комментариев ругательствами. Но команда по публичной политике заблокировала это предложение, сославшись на то, что несправедливо наказывать пост за то, что люди оставляют комментарии с фанатизмом.
Civic воскресила предложение и представила его Сэндбергу, который одобрил его в течение дня. Затем команда разработала планы по прекращению рекомендаций групп в нестабильные периоды и подготовила настоящий автоматический выключатель. Если ситуация будет достаточно напряженной, компания сможет отключать посты от издателей, страниц и групп - все, кроме контента друзей пользователя. Компания протестировала этот маневр, но не для того, чтобы выяснить, повлияет ли он на показатели пользователей, а для того, чтобы убедиться, что одновременное отключение столь большого количества механизмов платформы не приведет к ее краху.
Попытка подготовиться ко всем возможным катастрофам была нелегкой задачей, в результате которой была составлена таблица аварийных рычагов, позволяющих укротить платформу, а также контакты инженеров по всей компании, которые могли бы их задействовать в любой момент. Круглосуточная работа также породила чувство товарищества. Некоторые из молодых членов команды, у которых нет семей, решили, что после семи дней в неделю, проведенных в офисе на заключительном этапе кампании, возвращаться домой - это слишком много работы. Вместо того чтобы бронировать гостиничные номера рядом с офисом, Лю положил на кредитную карту 20 000 долларов на трехнедельную аренду особняка в соседнем Атертоне. Барнс был в числе сотрудников, которые поселились там. Работа казалась ему приятной, как возможность помочь исправить ошибку.
-
Прежде чем переключить все свое внимание на промежуточные выборы в США, гражданам нужно было выполнить последнюю работу. В октябре в Бразилии, второй по величине демократической стране мира, должны были состояться президентские выборы. Как и в США за два года до этого, это была схватка между подстрекаемым консервативным популистом и устоявшимся политиком.
За несколько недель до того, как бразильцы пришли на выборы, Чакрабарти сказал Коксу и Цукербергу заглянуть в Военную комнату, чтобы узнать,
