Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц

основе CORGI (буква "C" означает "coordinated", а остальные буквы - то, что не могут вспомнить даже самые преданные пользователи) лежала идея о том, что, какими бы изощренными ни были попытки манипулировать платформой, они неизменно показывают свою руку. Иногда это было очевидно, например, когда сотни аккаунтов-единомышленников использовали один и тот же IP-адрес и были созданы в течение тридцати секунд. В других случаях промахи были незаметны: взаимодействие аккаунтов было слишком надежным, формулировки их постов - слишком похожими. CORGI - это милое название автоматизированного способа выявления таких закономерностей.

Инструмент был настолько новым и ценным, что команды контрразведки Facebook использовали его, прежде чем создавать собственные методы обнаружения чужого неаутентичного поведения. Но компания Civic намеревалась найти гораздо более широкое применение. Они хотели выявлять и масштабные попытки координации внутри страны.

В принципе, это не вызывало разногласий. Правила Facebook запрещали издателям повышать свой контент с помощью манипулятивных тактик, включая рассылку спама, фальшивые аккаунты и скоординированный постинг. Определение "неаутентичного поведения" было широким и включало в себя все, что было направлено на получение преференций. Если компания обнаруживала постоянные попытки манипулировать платформой или привлекать внимание пользователей, то организация, стоящая за этим, могла получить перманентный бан.

На практике, однако, добиться того, чтобы сеть политических аккаунтов была закрыта за что-либо, кроме попыток манипулирования иностранцами, было гораздо более проблематично. Отчасти проблема заключалась в том, что к тому времени, когда Facebook начал обращать внимание на неаутентичное поведение, оно уже стало эндемичным.

Такие организации, как Liftable Media, цифровая медиакомпания под управлением давнего республиканского оперативника Флойда Брауна, построили империю на страницах, которые сначала извергали бодрую кликуху, а затем переключились на поддержку Трампа перед выборами 2016 года. Чтобы усугубить свой рост, Liftable начала скупать другие спамерские политические страницы в Facebook с такими названиями, как "Трамповоз", "Патриот Апдейт" и "Консервативный байт", и распространять на них свой контент.

В старом мире медиа стратегия управления множеством взаимозаменяемых веб-сайтов и страниц в Facebook не имела бы смысла. В целях экономии на масштабе и создания бренда издатели печатной и видеопродукции работали с каждой аудиторией по одному каналу. (Издатель журнала Cat Fancy мог бы расширить свою деятельность до Bird Fancy, но вряд ли стал бы каннибализировать свою аудиторию, создавая практически дублирующий журнал Cat Enthusiast).

Однако это были старые СМИ. В Facebook наводнение зоны конкурирующими страницами имело смысл из-за некоторых алгоритмических причуд. Во-первых, алгоритм предпочитает разнообразие. Чтобы предотвратить доминирование одного популярного и плодовитого производителя контента в лентах пользователей, Facebook блокирует слишком частое появление любого издателя. Запуск десятков почти дублирующих друг друга страниц позволяет избежать этого, давая одному и тому же контенту больше шансов укусить яблоко.

Координация сети страниц дала второе, более важное преимущество. Она обманула функцию News Feed, которая поощряла вирусность. Лента новостей была разработана таким образом, чтобы отдавать предпочтение контенту, который, как казалось, органично появлялся во многих местах. Если несколько пользователей, за которыми вы следили, говорили о чем-то, то, скорее всего, и вам это было интересно, и Facebook давал этому контенту большой импульс.

Эта функция сыграла на руку целеустремленным издателям. Рекомендуя пользователям, которые следят за одной страницей, понравиться ее близким двойникам, издатель мог создать перекрывающуюся аудиторию, используя десяток или более страниц, чтобы синтетически имитировать горячую историю, появляющуюся повсюду одновременно.

Многие сотрудники Facebook понимали, что цифровые издатели идут на уловки, но никто не понимал, насколько разрушительно эффективны сети вырезанных страниц. Это стало ясно только после того, как младший специалист по изучению данных по имени Софи Чжан обнаружила, что эта тактика широко распространена и, похоже, обманывает News Feed, увеличивая распространение контента в геометрической прогрессии.

Чжан, занимавшийся этим вопросом в 2020 году, обнаружил, что тактика используется в интересах издателей (Business Insider, Daily Wire, сайт под названием iHeartDogs), а также политических деятелей и практически всех, кто заинтересован в игровом распространении контента Facebook (франшизы Dairy Queen в Таиланде). Чтобы перехитрить Facebook, не требовалось ухищрений. Вы могли получить повышение популярности своего контента, разместив его на десяти разных страницах, управляемых одним и тем же аккаунтом.

Трудно переоценить размер слепого пятна, которое обнаружила Чжан, когда нашла его. " Не следует ли нам обратить внимание на то, можем ли мы приспособиться?" написал в ответ на выводы Чжан Дэвид Агранович, директор компании по борьбе с глобальными угрозами и бывший директор по разведке Совета национальной безопасности. Чжан, которая в основном подрабатывала в сфере Civic, позже была уволена за недостаточное внимание к своей основной работе, пока она сосредоточилась на уязвимости платформы для политических манипуляций.

Даже если Facebook было еще много лет до понимания того, какой множитель силы дают сетевые аккаунты, к моменту приближения промежуточных выборов в США в 2018 году компания, по крайней мере, понимала, что это проблема. То ли из-за принципа, то ли из-за гордости, то ли из-за неумелости, но обычно респектабельные новостные издания не играли в эти игры с распространением, по крайней мере, не очень хорошо. Это оставило поле открытым для новой породы издателей, оптимизированных для Facebook: тех, кто готов делать все, что платформа вознаграждает за просмотры.

Liftable была архетипом этой податливости. Компания начинала свою деятельность как неясный христианский издатель низкокалорийного вдохновляющего контента, который когда-то процветал на Facebook. Но News Feed был непостоянным хозяином, и к 2015 году Facebook изменил свои рекомендации таким образом, что перестал поощрять такие вещи, как "Вы не поверите своим глазам, когда увидите это феноменально праздничное рождественское световое шоу".

Изменения алгоритма отправили целый класс конкурирующих издательств, таких как Upworthy и ViralNova, в неизбежный штопор, но Liftable выжил. Помимо того, что Liftable переключилась на статьи с заголовками вроде "Родители в ярости: смотрите, что учитель сделал с сыном-аутистом на сцене перед всеми", она приобрела WesternJournal.com и все крупные политические страницы в Facebook, которые смогла заполучить в свои руки.

Такой подход вряд ли был секретом. Несмотря на правила Facebook, запрещающие продажу страниц, Liftable выпускала пресс-релизы о приобретении "новых активов" - страниц Facebook с миллионами подписчиков. После включения в сеть страниц они должны были выкладывать один и тот же контент.

Никто ни внутри, ни за пределами Facebook не обращал особого внимания на тактику усиления и сомнительный контент, которые применяли такие издатели, как Liftable. Заголовки вроде "Содомиты нацелились на ваших детей" казались скорее смешными, чем проблематичными. Но Флойд и издатели такого контента знали, что делают, и извлекали выгоду из невнимания и безразличия Facebook.

"Умные" создали страницы в самом начале, в 2013 году, а затем