Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц

вспомнить, консультировался ли он с вице-президентом Facebook по добросовестности при принятии решения о добросовестности, не было "замечательным", заявила сотрудница. Когда генеральный директор перешел к обороне, она попросила его взять на себя обязательство в будущем привлекать к принятию подобных решений команду, которая занимается рисками насилия в обществе.

В этот момент связь с Zoom прервалась.

"Извините, я вас потерял", - сказал Цукерберг, заверив оставшуюся аудиторию, что "все аргументы были рассмотрены".

Никто не мог с уверенностью сказать, что отключение допрашиваемого не было случайностью. Но подозрения ее коллег в том, что допрос Цукерберга был бесцеремонно прерван, впоследствии были подкреплены изменением политики.

Городские собрания Facebook имеют давнюю традицию откровенных дискуссий и незначительных утечек. В 2017 году Bloomberg опубликовал статью, в которой восхищался способностью руководителей Facebook проводить откровенные обсуждения в масштабах всей компании без утечки сочных подробностей. Теперь этой традиции пришел конец. Через несколько часов после завершения вопросов и ответов Vox опубликовал полную стенограмму. После этой встречи Facebook объявила, что в будущем вопросы на общих собраниях будут записываться заранее. (Позже компания объяснила это изменение пандемией и отметила, что сотрудники могут по-прежнему пытаться задавать вопросы в прямом эфире в разделе комментариев).

Тем не менее утечки стали происходить практически еженедельно, что вызвало поток статей о неудачах компании и о том, как она проявляла благосклонность к соблюдению тех правил, которые у нее были. По данным BuzzFeed News, компания неоднократно отменяла проверки фактов для известных консервативных издателей , включая Breitbart, а Каплан лично вмешался, чтобы защитить аккаунт праворадикального лидера Чарли Кирка.

В конце августа, менее чем через месяц после публикации этой истории, белокожий парень с детским лицом по имени Кайл Риттенхаус отправился из своего дома в Индиане в Кеношу, штат Висконсин, где начались гражданские беспорядки после того, как полиция застрелила чернокожего Джейкоба Блейка. Оказавшись там, Риттенхаус застрелил двух человек и покалечил третьего. Он отправился в поездку после того, как один из местных жителей создал на Facebook акцию, призывающую добровольцев "взять в руки оружие и защитить сегодня ночью город от злобных головорезов". Пост, популярность которого возросла благодаря радио и другим СМИ, был отмечен пользователями Facebook 455 раз. Цукерберг назвал то, что компания не удалила это событие, "операционной ошибкой".

После заявления Цукерберга о том, что Facebook просто ошиблась в применении правил платформы, члены Integrity долго ломали голову. Реальность оказалась куда более запутанной. " Язык, использованный в этих событиях и группах, не был нарушающим", - справедливо заметил менеджер по исследованиям Civic Integrity на Workplace, предсказав далее, что попытка Facebook отделить похвалу действиям Риттенхауса (что было запрещено) от вопросов о том, справедливо ли с ним обращаются (что было разрешено), обернется катастрофой. У компании и отдаленно не было возможностей для того, чтобы сделать это правильно, и, вероятно, никогда не будет.

Другие коллеги из Civic и сотрудники Integrity в комментариях выразили свое согласие. "Если бы наша цель заключалась в том, чтобы на нашей платформе было меньше ненависти, насилия и т. д., а не в том, чтобы убрать больше ненависти, насилия и т. д., наши решения и инвестиции, вероятно, выглядели бы совсем иначе", - написал один из них.

Розену надоело иметь дело с Civic. Цукерберг, который, как известно, не любил пересматривать решения после их принятия, уже продиктовал свой предпочтительный подход: автоматически удалять контент, если классификаторы Facebook с высокой степенью уверенности считали, что он нарушает правила платформы, и принимать "мягкие" меры, такие как понижение в должности, когда системы предсказывали, что нарушение более вероятно, чем нет. Это были маршевые приказы , и единственным продуктивным способом продвижения вперед было их неукоснительное выполнение.

Другие люди, работавшие над вопросами честности, доверяли решениям коллег из других подразделений компании, но сотрудники Civic, похоже, считали, что знают лучше, сказал ему Розен. Сотрудники Civic ссылались на клятву команды на совещаниях, и Розен счел токсичным намек на то, что Civic придерживается более высоких этических стандартов, чем остальные сотрудники компании. По его словам, Чакрабарти вообще не следовало создавать эти принципы, и он предупредил Чакрабарти, что в Civic должно быть "ноль драматизма", чтобы у него был шанс получить даже среднюю оценку работы.

Глава 12

Это был август 2020 года, и Киран, сотрудник Facebook India, собирался сделать нечто лично для него неблагоразумное.

За неделю до этого в Wall Street Journal была опубликована статья, которую мы с моим коллегой Ньюли Пурнеллом написали в соавторстве, о том, как Facebook освободил пламенного индуистского политика от ответственности за разжигание ненависти. Не было никаких сомнений в том, что Раджа Сингх, член парламента штата Телангана, подстрекал к насилию. Он выступал с речами, в которых призывал расстреливать иммигрантов рохинья, бежавших от геноцида в Мьянме, клеймил всех индийских мусульман предателями и угрожал разрушить мечети. Все это он делал, собирая аудиторию из более чем 400 000 подписчиков на Facebook. Ранее в том же году полиция Хайдарабада поместила его под домашний арест, чтобы он не привел своих сторонников на место недавнего религиозного насилия.

То, что Facebook ничего не предпринял перед лицом подобной риторики, могло быть вызвано небрежностью - в мире было много пламенных политиков, предлагающих множество подстрекательств на разных языках. Но в данном случае Facebook был прекрасно осведомлен о поведении Сингха. Индийские группы по защите гражданских прав обратили на него внимание сотрудников в Дели и Менло-Парке в рамках своих усилий по оказанию давления на компанию, чтобы она приняла меры против языка ненависти в стране.

Не было никаких сомнений в том, что Сингх квалифицируется как "опасный человек", которому обычно запрещено присутствовать на платформах Facebook. Несмотря на внутреннее заключение о том, что Сингх и несколько других индуистских националистов создавали риск реального кровопролития, их включение в список деятелей ненависти было заблокировано Анхи Дасом, главой Facebook по индийской общественной политике - тем же руководителем, который несколько лет назад лоббировал восстановление страниц, связанных с BJP, после того как Civic боролась за их удаление.

Дас, в чьи обязанности входит лоббирование интересов правительства Индии от имени Facebook, не стала пытаться оправдать защиту Сингха и других индуистских националистов техническими или процедурными причинами. Она категорически заявила, что объявление их фигурами ненависти разозлит правительство и правящую BJP, поэтому компания не будет этого делать.

Мы с моим коллегой Ньюли Пурнеллом узнали о том, что Дас защищает Сингха, и написали об этом как о явном нарушении обещания Facebook защищать пользователей и крайнем примере подозрительной готовности компании нарушать правила в интересах власть