Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц

популярных на платформе, продвигая ложные утверждения о пандемии под видом политической активности. Помимо того, что группы служили эхо-камерой для чередующихся утверждений о том, что вирус - это китайский заговор и что вируса не существует, они служили плацдармом для нападок на медицинскую информацию в масштабах всей платформы. Врачи, рассказывающие о переполненных отделениях скорой помощи и грузовиках-рефрижераторах, были перебиты; выражения сомнений колонизировали новостные сюжеты о рекомендациях общественного здравоохранения, как балясины, облепившие пирс.

Анализ показал, что эти группы появились внезапно, и , хотя у них были связи с устоявшимися сообществами против вакцинации, они не возникли органически. Многие из них имели практически идентичные названия и описания, а анализ их роста показал, что "относительно небольшое число людей" отправляло автоматические приглашения "сотням или тысячам пользователей в день".

Большинство из них не нарушали правил Facebook, отметил в своем посте специалист по исследованию данных. Утверждение, что COVID - это заговор Билла Гейтса с целью обогащения за счет вакцин, не соответствует определению Facebook как "неизбежный вред". Но, по его словам, компании стоит задуматься, отражает ли она просто широко распространенный скептицизм в отношении COVID или создает его.

" Это сильно влияет на отношение к здравоохранению", - ответил старший специалист по анализу данных. "У меня есть данные предстоящих опросов, которые свидетельствуют о не самых лучших результатах".

Вскоре после этого компания объявила о "событии на сайте", или SEV, официально признав наличие серьезной проблемы. Проблема заключалась в том, что количество дезинформации увеличилось более чем в два раза.

 

-

Дезинформация о COVID-19, распространяемая QAnon и другими конспирологическими движениями, была не единственной проблемой, которая вот-вот захлестнет Facebook.

Президент Трамп готовился к переизбранию и вышел на свою платформу, Twitter, чтобы начать то, что станет многомесячной попыткой подорвать легитимность выборов в ноябре 2020 года. "Не может быть и речи (НОЛЬ!) о том, что почтовые бюллетени окажутся чем-то меньшим, чем существенным мошенничеством", - написал Трамп. Как это обычно бывает с твитами Трампа, сообщение было перепощено в Facebook.

Под твитом Twitter разместил небольшое предупреждение, призывающее пользователей "Узнать факты о бюллетенях, отправляемых по почте". Любой, кто нажимал на него, получал информацию о том, что утверждения Трампа о "фальсификации" выборов ложны и нет никаких доказательств того, что бюллетени, отправленные по почте, представляют риск мошенничества.

Twitter провел свою линию. Теперь Facebook предстояло выбрать свою позицию. Моника Бикерт, глава отдела контентной политики Facebook, заявила , что пост Трампа находится на грани той дезинформации о "методах голосования", которую компания уже пообещала удалять.

У Цукерберга не было сильной позиции, поэтому он поступил по своему разумению и оставил все как есть. Но затем он выступил на телеканале Fox News, чтобы напасть на Twitter за то, что тот поступает наоборот. "Я твердо убежден, что Facebook не должен быть арбитром истины во всем, что люди говорят в сети", - сказал он ведущей Дане Перино. "Частные компании, вероятно, не должны быть, особенно эти компании-платформы, не должны быть в положении, чтобы делать это".

Интервью вызвало бурную реакцию внутри Facebook. Почему Цукерберг поощряет проверку Трампом границ платформы, заявляя о принципиальной терпимости к этому посту?

Ощущение того, что Цукерберг покорно подчиняется Трампу, должно было стать гораздо хуже. В день его интервью Fox News протесты против недавнего убийства Джорджа Флойда полицейскими Миннеаполиса приняли общенациональный масштаб, а на следующий день президент написал в Твиттере, что "когда начинается мародерство, начинается стрельба" - печально известная угрожающая фраза, которую использовал белый начальник полиции Майами в эпоху гражданских прав.

Заявив, что Трамп нарушил свои правила, запрещающие прославлять насилие, Twitter пошел на редкий шаг и ограничил возможность публичного просмотра твита - пользователям пришлось нажать на предупреждение, чтобы просмотреть его, и они не смогли поставить лайк или сделать ретвит.

В Facebook, где сообщение было размещено как обычно, классификатор насилия и подстрекательства компании оценил его как нарушение правил платформы с вероятностью чуть менее 90 процентов - чуть меньше порога, за который сообщение обычного пользователя автоматически удаляется.

Трамп, конечно, не был обычным пользователем. Как публичная фигура, возможно, самая публичная фигура в мире, его аккаунт и сообщения были защищены десятками различных уровней защиты.

Facebook разработал концепцию применения различных стандартов отношения к общественным деятелям, которая стала достоянием истории компании. Во время первого президентского срока Барака Обамы он опубликовал список своих любимых книг, среди которых был знаменитый роман Германа Мелвилла об одержимости, промышленном прогрессе и белом ките. Название книги спровоцировало срабатывание автоматической системы удаления непристойностей.

В результате страница Обамы была закрыта на короткое время и в конечном итоге не имела последствий, но это послужило сигналом для руководства Facebook: компания не может вечно оставаться безнаказанной за нарушение модерации в отношении президента Соединенных Штатов. Этот инцидент и другие подобные ему привели к появлению концепции "экранирования", которая позже была переименована в XCheck (произносится как "перекрестная проверка").

Для ее реализации Facebook составил список аккаунтов, которые были защищены от некоторых или всех немедленных принудительных действий. Если эти аккаунты нарушали правила Facebook, вопрос поднимался по иерархической цепочке Facebook, и принималось решение о том, стоит ли принимать меры против аккаунта или нет. В итоге все социальные медиа-платформы создали подобные списки - не было смысла рассматривать жалобы на глав государств, знаменитых спортсменов или преследуемых правозащитников так же, как это делали компании с обычными пользователями. Проблема заключалась в том, что, как и многое другое в Facebook, процесс в компании стал особенно запутанным.

Для Facebook риски, возникающие при защите слишком малого числа пользователей, были гораздо выше, чем риски при защите слишком большого числа. Ошибочное удаление контента крупной персоны могло привести к публичному аду - на языке Facebook, "эскалации СМИ" или, что самое страшное, "PR-пожару". Когда Facebook по ошибке удалял посты жертв рака груди или активистов всех мастей, это вызывало многочасовые или многодневные репортажи. Когда в 2014 году Facebook удалил фотографию с рискованной обложки французского журнала, размещенную в Instagram американской певицей Рианной, это едва не стало причиной международного инцидента. Как позже отмечалось во внутренних обзорах системы, стимул заключался в том, чтобы как можно сильнее оградить любой аккаунт, обладающий достаточным влиянием, чтобы вызвать излишнее внимание.

За XCheck не отвечала одна команда, и у этого термина даже не было конкретного определения. К рекламодателям, постам, страницам и политикам применялись бесконечные разновидности и градации, а сотни инженеров по всей компании кодировали различные способы защиты и помечали аккаунты по мере необходимости. В конечном итоге в XCheck было зарегистрировано не менее