Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц
Шрифт:
Интервал:
Закладка:
Памятка "Превосходство в изложении" и сопровождающие ее заметки и диаграммы были руководством по созданию документов, которые репортеры вроде меня не хотели бы видеть. К сожалению, как отметили в своих ответах несколько смелых исследователей пользовательского опыта, достижение "Нарративного совершенства" было практически несовместимо с успешной работой. Писать то, что "безопаснее для утечки", означало писать то, что будет иметь меньшее влияние.
Ни один из двух десятков менеджеров, перечисленных в записке, не ответил.
Некоторые проекты были отменены только потому, что их названия вызывали споры. Юридический отдел Facebook остановил работу над классификатором "Добро для мира" - предсказателем того, будет ли пользователь считать пост социально позитивным, - из-за того, что Facebook рекомендовал контент, который таковым не являлся.
Новый подход компании был лучше всего отражен в серии презентаций, сопровождавших очередную перестановку, объявленную в середине 2022 года. Все команды компании, занимающиеся вопросами целостности и социальными вопросами, должны были подчиняться новой структуре, задача которой заключалась в "усилении добра, которое происходит на технологических платформах Meta". Эта структура, в свою очередь, будет поддерживать усилия в приложениях Facebook и Instagram, чтобы "повысить осведомленность о положительном влиянии Meta на мир" и в конечном итоге "завоевать сердца и изменить восприятие".
Все сотрудники Facebook, занимающиеся вопросами честности и социальной ответственности, теперь в буквальном смысле подчинялись маркетингу, и это не могло не сказаться. Ученые-социологи должны были получать разрешение не только на проведение исследований, затрагивающих политику, изменение климата, предвзятость, здоровье или благополучие пользователей, но даже на то, чтобы предложить изучить эти темы или обобщить результаты своей прошлой работы.
За редким исключением, даже те сотрудники, которые бросали бомбы внутри компании, традиционно воздерживались от публичной критики Facebook, даже после своего ухода из компании. Одним из объяснений был страх перед соглашением о неразглашении, которое заставляли подписывать всех сотрудников, - юридическим документом, в котором говорилось, что утечки наносят компании "непоправимый вред", за который она может потребовать "чрезвычайной помощи в суде".
Хауген не просто нарушила это обещание, она его осквернила. Компания Facebook не только отказалась сообщить Конгрессу, что не будет принимать против нее никаких мер, но в то же время и не предпринимала никаких действий против нее. Учитывая, что столь обширные исследования компании уже обсуждались многими людьми за ее пределами, некоторые сотрудники решили, что нет ничего плохого в том, чтобы присоединиться к ним?
"Я был впечатлен тем, насколько более открыто многие люди говорят публично", - написал мне один из источников. Как будто я не собираюсь "натягивать Фрэнсиса", так что высказать свое мнение в Twitter - не такая уж большая проблема".
Даже Чакрабарти высказался. После того как компания расформировала Civic, Чакрабарти ушел в отпуск по уходу за ребенком. Вернувшись, он еще несколько месяцев раздумывал над новой ролью, но ничего не подходило. В начале сентября, за несколько недель до того, как мы начали публиковать "Досье Facebook", он объявил о своем уходе из компании. В течение девяти месяцев я пытался связаться с ним по электронной почте, через Twitter, LinkedIn, текстовыми сообщениями, любыми способами, но безрезультатно.
Он прервал свое молчание, отвечая на наши истории в Twitter. Он выкладывал историю в Твиттер и писал к ней комментарии со своими мыслями. " По сути, пространство решений для обеспечения доверия и безопасности гораздо шире, когда платформы ставят во главу угла снижение вреда для пользователей, а не краткосрочные проблемы с репутацией", - написал он в Твиттере по поводу нашей статьи XCheck. "Когда команды по обеспечению честности разочаровываются в лидерах компаний, это, как правило, связано с несоответствием приоритетов, которые важнее".
Он написал в своем твиттере, что статью о мексиканских картелях и торговле людьми " мне было особенно трудно читать, потому что она затрагивает тему, которая, вероятно, "не давала мне спать" больше, чем что-либо другое, когда я работал в FB. А именно: как социальные сети могут ответственно работать на глобальном юге?". В другом твите он написал: "Хотя я очень сожалею об утечках, по крайней мере, мои друзья лучше понимают, почему мои волосы так поседели за последние несколько лет".
Почти после каждой истории и серьезной реакции Facebook Чакрабарти делился своими соображениями. Когда Клегг в своем твите заявил, что это "чистая ложь", что компания хоронит негативные результаты, Чакрабарти попросил его не согласиться. " На мой взгляд, на самом деле нередко исследователи FB, занимающиеся общественными проблемами, чувствуют, что их игнорируют или, по крайней мере, сильно недооценивают при принятии решений, связанных с государственной политикой или экономическим ростом", - ответил он, предложив Клеггу поговорить с ними.
Регулярные опровержения Чакрабарти, который долгое время публично заявлял о себе как об эксперте в области добросовестной работы, опровергли обвинения компании в том, что журнал исказил результаты исследований Facebook. Но они достигли и чего-то более глубокого. У Чакрабарти не было большого числа подписчиков в социальных сетях, но среди них были сотни преданных бывших сотрудников, многие из которых до сих пор работают в компании. Когда он начал критиковать действия компании, направленные против наших репортажей, стало ясно: пришло время высказаться.
Джефф Аллен, специалист по анализу данных, продемонстрировавший, как македонцы и другие недобросовестные игроки создают вирусность, перед тем как покинуть компанию в конце 2019 года, уже работал вместе с Сахаром Массачи, бывшим инженером Civic, над созданием некоммерческой организации, которая могла бы стать домом для сотрудников Facebook, занимающихся вопросами честности, рейтинга контента и безопасности в изгнании. У Хаугена был архив значимых работ обоих мужчин, и они поддерживали связь с коллегами, которые покинули Facebook, чтобы работать на конкурирующих платформах, таких как Twitter, TikTok, YouTube и Clubhouse. Они хотели создать организацию, которая могла бы предложить репортерам и политикам опыт, необходимый для объяснения последствий ранжирования контента, ограничений модерации и ставок, связанных с выбором дизайна платформы. К сожалению, они оба ничего не знали о связях со СМИ, аналитических центрах и институциональных донорах.
Именно сюда пришла Кэти Харбат, покинувшая Facebook в 2021 году. У нее был большой опыт работы в СМИ, и она уже работала над различными проектами с Атлантическим советом и Двухпартийным политическим центром. Идея работать с человеком, который когда-то работал на Джоэла Каплана, сначала заставила Аллена и Массачи задуматься, но в итоге они объединились.
Институт Integrity Institute вышел на биржу в конце октября 2021 года.
В статье о запуске этой организации технический репортер Исси Лаповски
