Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц

" В конце 2 июня мы ясно видим, что вся страна, по сути, "горит", - написали четверо ученых, изучающих данные, в более позднем анализе под названием "Ненависть порождает ненависть; насилие порождает насилие".

В ближайшие недели будет много времени, чтобы рассмотреть интерпретацию слов Трампа, их исторический контекст и намерения президента. Ведущие кабельного телевидения будут пересказывать эти вопросы до бесконечности, а сотрудники Facebook будут спорить о том, насколько применимы к платформе заросли стандартов сообщества и руководящих принципов реализации. Но намерения и правила были совершенно не важны.

Как отметили специалисты по анализу данных, важно было то, что пост вел себя как язык ненависти. Перспектива отвечать на имущественные преступления смертоносной силой действовала как приманка для разжигания ненависти в национальном масштабе, запуская общественный разговор, который заставлял людей хотеть выцарапать друг другу глаза, создавая "высокую степень корреляции между заявленным пользователями вредом в сети и событиями протеста в оффлайне".

Ученые не смогли установить причинно-следственную связь, но они четко заметили, что распространение материала не было случайным. Не успел кросспостинг твита Трампа появиться в Facebook, как "набор распространителей" начал делиться им в партизанских сетях, где он вызвал еще более зажигательные отклики с такими фразами, как "настоящие пули", "к черту белых..." и "расстрелять ублюдков".

Технократов Facebook это не удивило. Ранее в рамках проекта At Risk Countries было установлено, что такие зажигательные материалы служат основой для ненависти, как коралловый риф образуется вокруг затонувшего корабля.

"Ненависть и насилие могут усугубляться распределением групп", - резюмируют авторы заметки "Ненависть порождает ненависть", и активность вокруг поста Трампа представляет собой американский аналог предыдущих выводов о том, что такая активность подпитывает "межобщинное насилие".

Не ограничивая распространение поста Трампа и не удаляя его с сайта , компания могла бы предпринять шаги, чтобы ограничить ущерб. Она могла бы ограничить повторные публикации, снизить точность, необходимую для скрытия остроумных комментариев, или попросить пользователей пересмотреть пикантные выражения, использованные при обсуждении поста.

Цукерберг решил ничего не предпринимать, заявив, что комментарий Трампа - это информационное предупреждение о возможном применении государственного насилия, и с сомнением сообщив сотрудникам, что у этой фразы нет истории расистского "собачьего свиста". Последовавшая за этим реакция была быстрой и гневной как внутри компании, так и за ее пределами.

Работа по внутреннему объяснению решения Цукерберга выпала на долю Бикерта, и это было нелегко. "Как мы можем посмотреть в глаза нашим сотрудникам и сказать, что мы не против?" - спросил Майк Шрепфер, главный технический директор Facebook. (В более поздних публичных интервью Шрепфер был более осмотрителен, сказав лишь, что для компании важно установить четкие правила и следовать им).

Выводы заметки "Ненависть порождает ненависть" были настолько мрачными, что авторы приложили постскриптум, адресованный "Нашим коллегам". То, что у Facebook теперь есть знания и инструменты, чтобы сделать лучше, но она этого не сделала, "удручает". Но "когда на кону стоят жизни, не пытаться - не вариант", - говорится в постскриптуме, цитируя Име Арчибонга, одного из самых высокопоставленных чернокожих руководителей Facebook. "Оставайтесь и сражайтесь вместе".

После грабежей и стрельбы и без того свободный тон общения на рабочем месте перешел на более высокую передачу. Некоторые посты содержали яростное осуждение руководства Цукерберга, другие были направлены на то, чтобы не пустить кризис на самотек.

Чакрабарти написал пост под заголовком "Сгибание наших платформ в сторону расовой справедливости", в котором подошел к теме взвешенно, но внес предложения, которые нельзя назвать революционными. По его словам, платформа компании не была создана для функциональных публичных дебатов и в настоящее время "отдает предпочтение интересам регулятора, а не защите сообщества", не поддерживая при этом "продемократические ценности".

Укоряя команду по публичной политике, с которой он враждовал на протяжении многих лет, он написал, что для решения проблемы необходимо отделить решения Facebook по контентной политике от лоббистской операции в Вашингтоне , а также предоставить общественности и сотрудникам право голоса в решениях по управлению платформой, которые принимает Цукерберг. Айер, который вместе с Чакрабарти возглавляет Civic, написал, что бездействие Facebook означает, что "компания потерпит неудачу в принятии решений, которые Марк примет в этом году".

Вскоре хор голосов выразил свое согласие. "Как всегда, отличный пост", - написал Фиджи Симо, руководитель приложения Facebook. "Что я могу сделать, чтобы помочь адвокатам?" - спросила Маргарет Стюарт, вице-президент по дизайну продуктов. "Все инструменты, которые у нас есть, к вашим услугам", - написала Миранда Сиссонс, директор Facebook по правам человека. "Я готова поддержать и помочь всем, чем смогу", - написала Кристин Хендрикс, руководитель отдела исследований Instagram.

Пост получил весьма прохладную реакцию со стороны начальника Чакрабарти, Гая Розена, который в частном порядке отругал его за то, что "подобные разговоры не подобают лидеру компании".

Боланд, вице-президент по партнерству, работавший в компании с 2009 года, был обеспокоен не столько риторикой президента, сколько тем, что он видел на CrowdTangle. Гордиться контентом, который распространяла платформа, было невозможно. Он позвонил Сэндберг и сказал ей, что после одиннадцати лет работы в Facebook он собирается уволиться.

"Вам не стоит этого делать прямо сейчас", - сказала Сэндберг, а затем открыла Боланду секрет: Крис Кокс возвращается в Facebook. По ее словам, проблемы, которые видел Боланд, были реальными, и вместо того чтобы увольняться, он должен обсудить их с Коксом через несколько недель. Боланд согласился попробовать.

За пределами руководящего звена настроение среди сотрудников было таким близким к мятежному, как никогда. Через четыре дня после твита Трампа сотрудники устроили виртуальную забастовку. В редких случаях многие стали высказывать свое недовольство вне рамок внутренних чатов компании, перенеся свое недовольство в Twitter. "Марк не прав, и я буду стараться как можно громче переубедить его", - написал в Твиттере Райан Фрейтас, директор, курировавший дизайн новостной ленты и связанную с ней работу по обеспечению целостности.

Во время общения с представителями компании один из членов команды Integrity спросил Цукерберга, почему Розен, чья команда отвечала за проблемы насилия в обществе, не участвовал в принятии решения оставить пост Трампа нетронутым.

"Прошу прощения. Я полагаю, что Гай был включен в список", - ответил Цукерберг. Это было неправдой, и сотрудник Integrity знал об этом. Утром Розен сообщил всей своей команде, что с ним не посоветовались. Сотрудник был готов пойти на убийство.

"Итак, сегодня утром я присутствовала на вопросах и ответах Гая... - начала она.

Затем Цукерберг, казалось, колебался. "Может, и нет", - сказал Цукерберг о причастности Розена. "На самом деле я не уверен, что он был".

То, что Цукерберг не смог