Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц
Шрифт:
Интервал:
Закладка:
Цукерберг хранил молчание до 6 января, и на следующее утро Шрепферу пришлось успокаивать напряженность. " Стоит отступить назад и вспомнить, что это действительно беспрецедентный случай", - написал он на Workplace. "Не уверен, что знаю точный набор правильных ответов, но мы меняемся и адаптируемся каждый день - в том числе и вчера".
Потребуется еще больше. Хотя компания ограничивала свою платформу так, как никогда не пыталась сделать это на развитом рынке, этого было недостаточно, чтобы подавить "Stop the Steal", фразу и концепцию, которые продолжали набирать обороты. Команда по общественной политике, поддерживаемая руководством Facebook, долгое время придерживалась мнения, что компания не должна удалять или даже понижать рейтинг контента, если не уверена, что он нарушает правила. Это пошло на пользу тем, кто развернул кампанию #StopTheSteal. Приняв решение, что утверждения о краже выборов не являются по своей сути вредными, Facebook оставил группы в покое после того, как удалил первоначальную группу Кремеров.
"Мы не могли действовать в отношении таких простых объектов, как сообщения и комментарии, потому что по отдельности они, как правило, не нарушали, даже если были окружены ненавистью, насилием и дезинформацией", - говорится в более позднем отчете.
Только после того, как пожары в Капитолии были потушены, а пять человек погибли, в Facebook поняли, как плохо они сыграли. Основная группа скоординированных экстремистов гиперактивно постила, комментировала и перепощивала свое движение.
Stop the Steal был не просто очередным хэштегом. Это была "точка сплочения, вокруг которой могло объединиться движение насильственной делегитимации выборов", - говорится в более позднем обзоре. В нем также мягко указывалось, кто в компании виноват: руководство и отдел публичной политики. "Прорехи" в правилах платформы позволили "более крупной волне движения просочиться сквозь трещины", - говорится в обзоре.
Не было времени указывать пальцем на руководство компании или на кого-либо еще. После 6 января #StopTheSteal набирал обороты. Не успели команды Integrity уничтожить хэштег и составить схему сетей сторонников, использующих его, как они обнаружили новую угрозу: то же самое сообщество мятежников объединилось, чтобы сделать еще один выстрел. Новой точкой сплочения стала "Патриотическая партия", которая позиционировала себя как ультраправая, поддерживающая Трампа альтернатива Республиканской партии.
В качестве подарка следователям Facebook, пытавшимся их отследить, организаторы новой "партии" собрались в частных группах на платформе, доступных только администраторам, по сути, предоставив дорожную карту своему центральному руководству. Однако вопрос о том, что Facebook будет делать с этой информацией, остается открытым.
При обычных обстоятельствах следователи Facebook потратили бы недели на составление досье о неправомерных действиях каждого отдельного субъекта, которого они хотели бы закрыть, а затем попытались бы добиться одобрения массового отключения со стороны команды Facebook по вопросам общественной политики. Однако в этот раз никто из руководства не беспокоился о чрезмерном усилении.
В качестве нового антикризисного подхода Facebook использовал проверенный метод, который бармены применяют к буйным пьяницам: перестать их обслуживать и вышвырнуть ублюдков вон. Компания начала активно снижать рейтинг термина "Патриотическая партия" в Facebook и Instagram и удалять центральные узлы сети, продвигающие его. Аккаунты Али Александра стали трупами. Так же, как и движение Брэндона Страки "Уходи", и аккаунты многих других влиятельных лиц, выступающих за "Остановить воровство".
Борьба между Facebook и движением, которое он помог зародить, продолжалась несколько недель. Когда 22 января, через два дня после инаугурации Байдена, внутреннее чрезвычайное положение в компании было наконец снято с максимального уровня, не оставалось сомнений, что тактика удалась. Одним щелчком нескольких переключателей мегафон, который платформа дала мятежникам, был вырван у них из рук.
" Мы смогли пресечь такие термины, как "партия патриотов", в зародыше", - отмечалось в более поздней рецензии.
Блокирование попыток мятежников перегруппироваться было достижением, хотя и сопровождалось опасениями для многих бывших сотрудников Civic. По приказу руководства они только что задушили попытку организовать то, что могло стать новой политической партией. По иронии судьбы, ранее Цукерберг отверг гораздо менее жесткие попытки сделать платформу более стабильной на том основании, что они ограничивали право голоса пользователей.
Сразу после 6 января Facebook не высовывалась. Когда источники в компании и сотрудники отдела коммуникаций Facebook отвечали на телефонные звонки репортеров или электронные письма, что случалось редко, они признавали, что им пришлось изрядно попотеть. Ближе всего к оправданию деятельности компании было замечание о том, что основная ответственность за нападение на Капитолий лежит на Трампе.
7 января, когда большая часть мира пыталась понять, что, черт возьми, только что произошло, в блоге Эндрю Босворта, где он публиковал свои мысли о философии и лидерстве, появилось небольшое эссе под названием "Проблемы со стороны спроса". Его тезис заключался в том, что пользователи Facebook испытывают такую же ненасытную тягу к ненависти, как американцы - к наркотикам. Поэтому усилия Facebook по подавлению ненависти, хотя и с благими намерениями, потерпят неудачу, как и "война с наркотиками" - по крайней мере, "пока мы не добьемся большего социального прогресса как общество".
Никто не обратил на это внимания - в конце концов, это был личный философский блог руководителя Facebook, - но сообщение все равно произвело большое впечатление. Через день после того, как бунт, вызванный ненавистью и дезинформацией, потряс демократию, один из лучших лейтенантов Цукерберга обвинял в злодеяниях общество в целом - то есть пользователей Facebook.
Заметка представляла собой сокращенную версию предыдущего сообщения Босворта на Workplace, которое послужило началом дискуссии с коллегами по работе, в которой он пошел дальше. Он писал, что слишком жесткое подавление - плохая идея, потому что пользователи, стремящиеся к ненависти, "просто удовлетворят свои потребности в другом месте".
Аргументы Босворта содержали некоторые нюансы: Как организация, контролирующая поставку контента, Facebook была обязана "инвестировать огромные средства" в безопасность пользователей. И руководитель, который курировал аппаратный бизнес Facebook, а не модерацию контента, в других заметках говорил, что он выступает за то, чтобы больше работать над устранением предвзятости рекомендаций по отношению к проблемам, связанным
