Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц
Шрифт:
Интервал:
Закладка:
Боз просто сказал бы: "Вы совершенно не правы", - говорит Боланд. "Данные выигрывают споры в Facebook, за исключением этого".
Что касается Сильвермана, то он остался еще на несколько месяцев, чтобы найти сотрудникам CrowdTangle новые роли. Он ушел осенью 2021 года.
Глава
18
В конце июля 2021 года Джон Пинетт, тогдашний глава отдела коммуникаций Facebook, заглянул в бюро Wall Street Journal в Сан-Франциско с неловким случайным визитом - должно быть, он знал, что что-то случилось. Сидя с ним в большом пустом конференц-зале, мой редактор Брэд Рейган и шеф бюро Джейсон Дин обсудили недавнюю вражду Facebook с Apple и общие тенденции в освещении технологических событий, а затем сказали благожелательному Пинетту - бывшему католическому священнику - что мы действительно работаем над чем-то существенным, но пока не готовы говорить об этом.
Прошло три месяца с тех пор, как я прилетел домой из Пуэрто-Рико. Теперь у "Журнала" был жесткий диск, содержащий 22 000 скриншотов 1200 документов, которые Хауген собирал в течение шести месяцев. Брэд нанял еще семь репортеров, чтобы они помогли прочесать все это и провести обширные дополнительные исследования и репортажи, необходимые для публикации.
Несмотря на то, что на создание чистых черновиков ушли тысячи часов работы, истории уже раскрылись. Facebook допускал торговлю людьми в Персидском заливе на своей платформе до тех пор, пока она происходила через кирпичные и обычные предприятия. Пытаясь улучшить платформу и увеличить число пользователей, компания на самом деле сделала сайт и людей, которые им пользовались, еще злее. Исследователи психического здоровья пришли к выводу, что "мы усугубляем проблемы с телом" и что Instagram является токсичным местом, в частности, для многих девочек-подростков.
Мы разделили истории между собой. Джорджия Уэллс начала интервьюировать молодых женщин, у которых развились расстройства пищевого поведения или проблемы с образом тела - те самые, которые, как опасались исследователи Instagram, может усугубить их продукт. В рассказах, которые она вела, приводились документы компании, согласно которым "сравнения в Instagram могут изменить представление молодых женщин о себе", а также исследования, согласно которым 32 процента девушек-подростков заявили, что "когда они чувствовали себя плохо из-за своего тела, Instagram заставлял их чувствовать себя еще хуже".
Для статьи о неудачах Facebook в развивающихся странах Ньюли Пернелл и Джастин Шек нашли женщину, которую продали из Кении в Саудовскую Аравию, и выяснили, какую роль сыграл Facebook в вербовке киллеров для мексиканских наркобаронов. В этой истории выяснилось, что Facebook не смог эффективно закрыть присутствие картеля "Новое поколение Халиско" в Facebook и Instagram, что позволило ему неоднократно публиковать фотографии экстремальной жестокости, включая отрубленные руки и обезглавливания.
Изучая, как платформа поощряет гнев, Кич-Хейги опиралась на документы, свидетельствующие о том, что политические партии в Польше жаловались Facebook на то, что изменения, внесенные в систему взаимодействия, заставляют их занимать более негативные позиции. В документах не были названы партии, и она пыталась выяснить, какие именно.
Дипа Ситхараман работала над тем, чтобы понять, как хваленый искусственный интеллект Facebook справляется с таким ничтожным процентом - ничтожным однозначным процентом, если верить документам, которые мне предоставил Хауген, - ненавистнической риторики на платформе, включая постоянные сбои в выявлении видеороликов со стрельбой от первого лица и расистских разглагольствований.
А Сэм Шехнер и Эмили Глейзер изучали, как активисты так эффективно распространяли необоснованные сомнения в вакцине COVID, что Facebook пришлось повторно ввести меры "Разбей стекло" в мае 2021 года - в третий раз за последние полгода в США.
Я участвовал во всех этих историях, но основное время уделил двум: раскрытию существования XCheck, программы Facebook по предоставлению преференций VIP-пользователям, а также изучению ее реакции на 6 января.
В Пуэрто-Рико мы с Хаугеном обсуждали достоинства того, чтобы публиковал эти истории медленно, выпуская по одной проклятой статье каждую неделю в течение нескольких месяцев, уделяя сложным вопросам каждой истории то внимание, которого они заслуживают. У старших редакторов "Журнала", что неудивительно, были другие идеи. Они хотели, чтобы истории публиковались ежедневно, занимая доминирующее положение в недельном выпуске новостей о технологиях, и таким образом можно было бы наглядно продемонстрировать, что проект является чем-то выдающимся.
Хауген была категорически против этой идеи, но ей не дали высказаться. А вот я высказался, и я разделил ее мнение. Я пренебрежительно назвал предложенное расписание "Неделей акул", в честь известной своей беззастенчивостью хватки рейтингов канала Discovery. Оказывается, у меня тоже не было права голоса.
Статья XCheck, опубликованная под заголовком "Facebook утверждает, что его правила применяются ко всем. Документы компании раскрывают секретную элиту, которая освобождена от них", вышла 13 сентября, положив начало серии материалов, которая привлечет внимание Конгресса и обычных пользователей, раскрывая внутреннюю работу и обсуждения компании, которая прилагала все усилия, чтобы избежать детального изучения. Выбор в пользу истории о XCheck был сделан намеренно. В отличие от некоторых других историй, эта не требовала объяснения чего-либо технического - систем рекомендации контента, классификаторов, механики вирусности. Суть заключалась в том, что Facebook заявила, что относится ко всем одинаково, а на самом деле это не так.
Но это было нелегко. С октября 2020 года Facebook работал под руководством Надзорного совета - органа, который должен был служить своего рода независимым апелляционным судом для решений компании о модерации. На практике полномочия совета ограничивались в основном вынесением соломоновых решений по отдельным постам в социальных сетях.
Решение Facebook отстранить Трампа от работы на неопределенный срок после 6 января было как никогда кстати, и компания попросила совет директоров высказать свое мнение. 4 мая совет вынес свое решение: решение о приостановке деятельности Трампа было оправданным, но то, как Facebook принимал это решение, было нечистым беспорядком, не соответствующим никакой видимой процедуре. Совет сообщил Facebook, что у него есть шесть месяцев, чтобы придумать соразмерный ответ, а именно установить временные ограничения на отстранение.
Совет также воспользовался возможностью засыпать компанию вопросами о том, как она справляется с проступками общественных деятелей. Среди них - требование к Facebook объяснить программу, известную как "перекрестная проверка".
Мы с Хаугеном в то время были в Пуэрто-Рико, и это упоминание привлекло наше внимание. Мы были по колено в язвительных документах, объявляющих XCheck крушением поезда. Документы свидетельствовали о том, что Facebook знала о своей проблеме. Неоднократные внутренние проверки показали, что защита VIP-персон была опасной, неоправданной и неумело управляемой.
