Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц
Шрифт:
Интервал:
Закладка:
Воинственность влиятельных лиц была источником их власти. "Более агрессивные люди, такие как Алис и все эти парни, стали занимать более видное место благодаря языку, который они использовали", - сказал Пирсон следователям.
Трамп, возможно, и рекламировал официальный протест Кремеров 6 января на своем аккаунте в Twitter, но в итоге, как отметил один активист, они собрали всего 20 000 подписчиков на Facebook. Бутлег-сайт Али, напичканный более громкими выражениями и еще более дикими теориями заговора, собрал 500 000.
"Безумцы" Пирсона на самом деле были светилами "Пятой власти" Цукерберга.
"У этих людей были ограниченные возможности влиять на реальные результаты - если бы Али Александр обратился к людям с призывом выйти на марш к Капитолию, на него пришло бы несколько десятков человек", - говорит Джаред Холт, который изучал подготовку к 6 января для лаборатории Digital Forensic Research Lab Atlantic Council, финансируемой Facebook. "Но именно сетевые эффекты привели к тому, что люди, более уважаемые и популярные, чем Али, изменили его контент".
Чтобы удержать влиятельных людей на митинге 6 января, но при этом не подпустить к самому президенту, Пирсон помогла заключить сделку с теми, кого она назвала "списком психопатов", чтобы они выступили на другом мероприятии 5 января. Под моросящим зимним дождем на площади Свободы в Вашингтоне Али и Страка разглагольствовали вместе с Джонсом, опальным бывшим комиссаром полиции Нью-Йорка Бернардом Кериком и человеком, стоящим за мемом "DC Draino", у которого только на Instagram 2,3 миллиона подписчиков.
На следующий день, на настоящем митинге, Кремеры приказали охране быть наготове, если Али, Джонс или Страка попытаются ворваться на сцену и силой захватить микрофон.
Страка рассказал следователям, что ему хотелось бы самому выступить 6 января, но, несмотря на это, он решил воспользоваться ситуацией. "У меня есть камера, у меня есть микрофон, - вспоминает он. "Я собираюсь превратить это в возможность создать контент для своей аудитории".
-
История о том, как оборона Facebook была так прочно разбита столь незадачливой командой, начинается сразу же после того, как группа Stop the Steal была разгромлена, и начинается она с самого верха.
Хотя Facebook туманно утверждал, что удалил группу из-за запрещенного контента, на самом деле группа не нарушала правил Facebook, запрещающих подстрекательство к насилию, а платформа не имела политики, запрещающей ложные заявления о фальсификации выборов. Однако, основываясь на очевидной вредоносности группы, Бикерт и команда Facebook по политике контента заявили о нарушении "духа политики" - редком, но нередком признании, которое сводится к "потому что мы так сказали".
Цукерберг согласился на удаление в чрезвычайных обстоятельствах, но он не хотел, чтобы удаление группы Stop the Steal стало прецедентом для запрета на ложные заявления о выборах. В преддверии дня выборов Facebook удалил только с ложью о реальном процессе голосования - например, "Демократы голосуют в среду" и "Люди с неоплаченными штрафами за парковку не могут прийти на избирательные участки". Отмечая тонкую грань между утверждением, что голоса не будут подсчитаны, и утверждением, что они не будут подсчитаны точно, Чакрабарти настаивал на принятии хотя бы некоторых мер против необоснованных заявлений о фальсификации выборов.
Civic не выиграла эту битву, но, поскольку группа Stop the Steal породила десятки подражателей с похожими названиями - некоторые из которых также накопили шестизначные суммы членства - угроза дальнейших организованных усилий по делегитимации выборов была очевидна.
Не имея возможности закрыть новые структуры, Сивик назначил сотрудников, которые должны были хотя бы изучить их. Сотрудники также начали отслеживать лучшие делегитимизационные посты, которые набирали десятки миллионов просмотров, для того, что в одном из документов было названо "ситуационной осведомленностью". Позднее анализ показал, что до 70 % контента Stop the Steal поступало с известных страниц "низкого качества новостной экосистемы" - коммерческих издателей, с которыми сотрудники Facebook, отвечающие за целостность новостной ленты, пытались бороться годами.
У Civic были видные союзники в этом стремлении к сбору оперативной информации об этих группах, если не к их полному удалению. В начале года Facebook официально запретил конспирологические сети QAnon и группы ополченцев, и Брайан Фишман, руководитель отдела по борьбе с терроризмом Facebook, указал на данные, свидетельствующие о том, что Stop the Steal в значительной степени поддерживается теми же пользователями, которых увлекают фантазии о насильственном восстании.
"Они встали рядом с людьми, о которых мы знали, что у них есть опыт насилия", - рассказывал позже Фишман о Stop the Steal.
Но Цукерберг отменил решение команды Facebook Civic и главы отдела по борьбе с терроризмом. Вскоре после того, как Associated Press объявило, что 7 ноября президентские выборы будут отданы Джо Байдену - традиционный признак окончательного завершения гонки, - Молли Катлер собрала около пятнадцати руководителей, которые отвечали за подготовку компании к выборам. Ссылаясь на приказ Цукерберга, она заявила, что мониторинг делегитимации выборов должен быть немедленно прекращен.
Хотя Цукерберг не присутствовал при этом, чтобы поделиться своими доводами, Розен не уклонился от того, чтобы сказать Чакрабарти, что он согласен с решением Цукерберга - объяснение, которое Чакрабарти счел достаточно примечательным, чтобы сделать запись. Он процитировал слова Розена в записке, направленной в отдел кадров компании, о том, что он сказал ему, что наблюдение за попытками остановить переход президента "только создаст импульс и ожидание действий", которые он не поддерживает".
Чувство того, что компания может оставить выборы позади, было присуще не только руководству. Райан Байермейстер, чья работа по руководству целевой группой 2020 Groups Task Force вызывала восхищение как в Civic, так и в высших эшелонах подразделения Facebook по обеспечению честности, написала записку, в которой рассказала о стратегиях, использованных ее командой для устранения того, что она назвала "риском пороховой ямы".
Бейермайстер, недавно пришедшая в Facebook из компании Palantir, специализирующейся на анализе данных, поздравила свою команду с "героическими" усилиями, которые они предприняли, чтобы заставить высшее руководство Facebook подписаться под удалением токсичных групп. "Я искренне верю, что группа Group Task Force сделала выборы более безопасными и предотвратила возможные случаи насилия в реальном мире", - заключила она, поблагодарив тридцать членов группы за "преобразующее воздействие, которое они оказали на экосистему Groups в ходе этих выборов и в последующий период".
