Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц

К 2017 году, когда Facebook начал беспокоиться о таких проблемах, как дезинформация, приманка для вовлечения и скоординированный постинг, партизанские издатели - в основном правые, но некоторые и левые - уже хорошо себя зарекомендовали. Один только Liftable был заметным игроком в бизнесе консервативных новостей , принося миллиард просмотров страниц в год и восьмизначные доходы от рекламы. Закрывать дверь сарая было уже поздновато.

Эта проблема, как и многие другие в Facebook, возникла из-за бездействия в отношении того, что еще несколько лет назад было лишь незначительной проблемой. Неспособность компании справиться с проблемами не просто создала плохие прецеденты - она создала плохие экосистемы.

В самом начале работы над тем, как контролировать тактику издателей, участвовали сотрудники News Feed, но эта команда была распущена во время консолидации работы по обеспечению честности под руководством Гая Розена, который был сосредоточен на борьбе с вредным контентом, а не на злоупотреблениях, которые способствовали его распространению.

"Сотрудникам отдела целостности ленты новостей было сказано, чтобы они не работали над этим, что это не стоит их времени", - вспоминает менеджер по продуктам Элиз Лю (Elise Liu).

Напротив, Лю и Сагник Гош, ее инженерный партнер в Civic, рассматривали это как битву, которую платформа не могла позволить себе проиграть. Facebook продвигал контент в зависимости от того, делились ли им сети пользователей; если позволить небольшим группам людей, контролирующим большие группы фиктивных аккаунтов, подделать эту шумиху, их контент искусственно поднимется выше, чем посты, которыми поделились на самом деле. Поэтому Civic занялась тем, на чем остановилась команда News Feed.

Политика Facebook, конечно, создавала впечатление, что удаление сетей фальшивых аккаунтов не должно было стать большой проблемой: платформа требовала от пользователей называть свои настоящие имена в интересах ответственности и безопасности. Однако на практике правило, согласно которому пользователям разрешалось иметь только один аккаунт, носящий их законное имя, как правило, не соблюдалось.

Существовали веские причины, по которым пользователь мог не соблюдать эти правила: может быть, он потерял доступ к своему профилю, когда сломал телефон, или живет в месте, где поддержка демократии приводит к позднему ночному стуку в дверь. Но Facebook не требовал от тех, кого он называл SUMAs - "один пользователь, несколько аккаунтов", - оправдываться. Компания не занималась тем, чтобы не пускать новых пользователей на свою платформу, даже если они не были совсем новыми.

Таким образом, план Civic по отслеживанию и преследованию сетей фальшивых аккаунтов вступал на новую территорию. Русским было запрещено выдавать себя за американцев в интересах манипулирования американской политикой ; что руководство Facebook думает об американцах, использующих фальшивые аккаунты с аналогичной целью, неизвестно. Тем не менее, четкие правила, запрещающие фальшивые аккаунты, были в ходу, и никто не говорил, что их нельзя применять к мусорным партизанским издательствам.

"Facebook может быть очень низовой компанией", - говорит Гхош. "Если бы Марк следил за этим, вряд ли бы это произошло".

Работа по разъяснению новых правил организациям вроде Floyd Brown's выпала на долю Харбата, который, будучи видным республиканцем Facebook в Вашингтоне, иногда брал на себя роль проводника партизанских издателей через новые правила дорожного движения платформы, и этот процесс нередко бывал ожесточенным. Издателям не нравилось, когда им говорили, что они должны придерживаться фактов и перестать продвигать свой контент с помощью бросовых страниц.

В марте 2018 года Браун выступил на шоу Такера Карлсона на Fox News и обвинил Facebook в "полиции мысли", которая начала пресекать подобные схемы, представив это как антиконсервативную попытку контролировать дискурс в преддверии промежуточных выборов.

Несмотря на все тирады, Liftable привела себя в порядок, удалив ложные новости и проведя ребрендинг или объединив десятки своих страниц под мантией "Западного журнала", чтобы начать все с чистого листа. "Western Journal" все еще распространял свой контент способами, которые официально не одобрялись, но Facebook посчитал, что компания подошла к этому достаточно близко, и оставил ее в покое.

Не все издатели были готовы играть в мяч. Весной 2018 года команда Civic начала добиваться устранения десятков других сетей непокорных страниц, в том числе одной, связанной с сайтом под названием "Новости правого крыла". Этой сетью управлял Брайан Колфадж, ветеран США, потерявший обе ноги и руку в результате попадания ракеты в Ираке.

Первой реакцией Харбат на попытки Civic отменить политический медиабизнес известного ветерана-инвалида было категорическое "нет". Она не могла оспорить детали его проступка - Колфадж использовал поддельные или заимствованные аккаунты, чтобы спамить Facebook ссылками на язвительный, а иногда и ложный контент. Но она также не была готова закрыть его за то, что он делал то, что платформа молчаливо разрешала.

"Facebook позволил этому парню построить бизнес, используя сомнительную тактику и мошенническое поведение, так что было некоторое нежелание сказать: "Извините, то, что вы делали каждый день в течение последних нескольких лет, больше неприемлемо"", - сказала она.

Как и в случае с Флойдом Брауном, Харбат начала напрямую разговаривать с Колфаджем о том, как навести порядок в его деятельности. "В самом начале был правдоподобный сценарий, что эти парни не знают правил", - говорит Харбат. "Меня очень беспокоило то, что не нужно было наводить порядок перед тем, как убрать страницы ветерана войны в Ираке с тройным ампутированием".

Разговоры были непростыми.

"Он напыщенный, но так же поступают многие люди в моем почтовом ящике", - говорит Харбат.

Ей казалось, что она делает успехи, пока команда Civic не сообщила ей, что Колфадж не только не изменил свою тактику (администраторы одной группы, связанной с Колфаджем, вели 189 страниц, 70 из которых существовали в основном для размещения дублирующих ссылок на один из его новостных сайтов), но даже высмеивали усилия Харбата по реформированию через прямые сообщения с его сообщниками.

Она попробовала еще раз, собрав конференц-связь с коллегой из отдела контентной политики и юристом Kolfage, чтобы подчеркнуть, что компания настроена серьезно. Это тоже не помогло. Вместо того чтобы немедленно удалить сеть Колфаджа, Facebook сначала наложил несколько скромных штрафов в качестве предупредительного выстрела.

Все, чего удалось добиться, - это вывести Колфаджа из себя. Его электронные письма Харбат, которыми она поделилась с сотрудниками Civic в то время, были не столько грубыми, сколько угрожающими. "Мы отправляли анализы Кэти, она отправляла их Колфаджу, а он отвечал угрозами", - вспоминает Лю.

Кроме как просто отказаться от соблюдения правил Facebook, больше ничего не оставалось. Команда Facebook по вопросам публичной политики по-прежнему не хотела увольнять крупного отечественного издателя за неаутентичное усиление, и заставила команду