Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц
Шрифт:
Интервал:
Закладка:
Кокс не зря проводил приветственную беседу почти с каждой партией новых сотрудников. Как никто другой в высшем руководстве Facebook, глава отдела продуктов обладал даром располагать к себе людей и заставлять их чувствовать себя комфортно. Задавая вопросы, Кокс смотрел людям в глаза и просил их написать ему лично, если им что-то нужно. Этот парень явно заботился о сотрудниках, о миссии Facebook и о мире в целом.
Кокс был в прекрасной форме в тот день, когда заглянул в военную комнату и провел девяносто минут с дежурными сотрудниками по вопросам гражданственности и честности. Один из присутствовавших сотрудников Харбат предупредил ее о том, что Харбат позже назовет "обратными вопросами и ответами Кокса". Находясь на Восточном побережье, Харбат поспешила домой, чтобы в ужасе наблюдать, как Кокс уговаривает группу измотанных и напряженных сотрудников Civic высказать свое недовольство - многие из них были связаны с командой Facebook по вопросам государственной политики.
Один из сотрудников показал Коксу, что бразильский законодатель, поддерживающий популиста Жаира Болсонару, разместил сфабрикованное видео с машиной для голосования, которая якобы была подделана в пользу его оппонента. Сфабрикованные кадры уже были опровергнуты специалистами по проверке фактов, что, как правило, дало бы основания для резкого прекращения распространения поста. Но команда Facebook, отвечающая за публичную политику, после бурного обсуждения применения этого правила к президенту Дональду Трампу уже давно решила, что посты правительственных чиновников на сайте не подлежат проверке фактов. Таким образом, Facebook позволял беспрепятственно распространяться ложным материалам, подрывающим доверие бразильцев к демократии.
Кокс был обеспокоен. На следующий день он начал назначать встречи с Капланом, Сэндбергом и другими топ-менеджерами. Он также попросил Чакрабарти привести доводы в пользу пересмотра освобождения политиков от проверки фактов во время еженедельной пятничной встречи Сэндберга с высшим руководством.
В день встречи Харбат прилетел из Вашингтона. Сэндберг сказала всем, что у них есть полчаса, чтобы разобраться с вопросом. Чакрабарти начал, заявив, что, несмотря на нежелание компании контролировать политические высказывания, она должна подвести черту под попытками подорвать выборы. Такая ложь токсична для демократии, особенно если она исходит от политиков.
И Сэндберг, и Кокс кивнули.
Шерил была очень близка к тому, чтобы сказать: "Мы собираемся обратить все вспять", - вспоминает Харбат.
Затем вашингтонские сотрудники Facebook попросили всех присутствующих, кроме Кокса и Сэндберг, удалиться на несколько минут, чтобы они могли высказать свою точку зрения. Чакрабарти и другие сидели за стеклянными стенами конференц-зала - помещения, которое в шутку назвали "Только хорошие новости", - пока руководители обсуждали риск того, что изменение политики незадолго до двух крупных выборов поставит Facebook в центр внимания в то время, когда компания должна держать себя в руках. Харбат позвонила одному из членов своей команды в Бразилии, который с радостью согласился с ней.
Через несколько минут Сэндберг позвала Чакрабарти и остальных руководителей обратно. И она, и Кокс теперь были твердо согласны с тем, что эту идею следует отложить, по крайней мере до окончания выборов в Бразилии и США.
Несмотря на опасения Civic, голосование в Бразилии прошло гладко. Того же нельзя было сказать о коллегах Civic из WhatsApp. В последние дни бразильских выборов вирусная дезинформация, передаваемая с помощью беспрепятственной пересылки, разнеслась по стране. Потенциал для таких злоупотреблений был именно тем, что побудило Барнса и Айера вступить в борьбу с командой Messenger, введя ограничения на скорость передачи сообщений. Civic не очень понравилось, но, по крайней мере, в этот раз проблемы возникли не у их платформы.
Праздник был недолгим. Вечером у всех затрезвонили телефоны - автоматическая система, созданная для выявления возникающих проблем, только что предупредила, что в Бразилии участились случаи разжигания ненависти.
Сторонники победившего Болсонару, разделяющие враждебное отношение своего кандидата к гомосексуальности, праздновали в Facebook, публикуя мемы с изображением людей в масках, держащих в руках пистолеты и биты. В сопроводительном португальском тексте фраза "Мы идем на охоту" сочеталась с оскорблениями в адрес геев, а некоторые посты призывали пользователей вступать в группы WhatsApp, якобы предназначенные для этой жестокой цели. Вовлеченность была на высоте, что побудило системы Facebook распространить их еще дальше.
Хотя классификаторы ненависти компании были достаточно хороши, чтобы обнаружить проблему, они не были достаточно надежны, чтобы автоматически удалить поток ненависти. Вместо того чтобы праздновать завершение гонки, сотрудники Civic War Room во внеурочное время обратились за помощью к португалоговорящим коллегам. На призыв откликнулся один ученый-эрудит, не бразилец, который прекрасно говорил по-португальски и, как оказалось, был геем.
Для сотрудников Civic подобный инцидент был не самым удачным, но и не экстраординарным. Они смирились с тем, что на платформе иногда происходят подобные неприятные вещи, особенно в период выборов.
Достаточно было взглянуть на португалоязычного специалиста по анализу данных, чтобы напомнить Барнсу, как странно, что вирусные ужасы стали такой обыденностью на Facebook. Волонтер был занят работой, как и все остальные, но во время работы он тихо всхлипывал. "Этот момент запечатлелся в моей памяти", - говорит Барнс. "Он плачет, а у оперативной группы уйдет десять часов на то, чтобы устранить это".
-
Наступили промежуточные выборы в США. В ночь выборов Барнс и несколько его коллег оставались в военной комнате и следили за работой платформы до раннего утра, а затем вернулись в арендованный дом, чтобы вести себя как обычные технические работники после успешного запуска продукта, сильно напившись. На видео, которое Лю записала на свой телефон, видно, как Барнс сидит на диване и играет на гитаре, а его коллеги пытаются импровизировать тексты баллад о гражданской честности.
И снова ничего не пошло катастрофически плохо. Настало время для победного круга. На следующий день жители дома отправились в Вашингтон на подведение итогов после выборов, где обнаружили, что команда политиков заказала коробки кексов с надписью "Спасибо, что сделали нас безопаснее".
Поездка была идеей Чакрабарти. После напряженного предвыборного сезона его сотрудники хотели провести немного времени со своими коллегами в Вашингтоне. Команды Facebook по гражданской и общественной политике находились в долгом пути, и, возможно, дела пойдут более гладко, если они лучше узнают друг друга. Чакрабарти спросил, не мог бы Каплан выступить с докладом перед приехавшими сотрудниками Civic в конце поездки, но время не подошло. Вместо этого Каплан предложил Кевину Мартину, своему заместителю и
