Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц

Рекрутеры из Facebook уже давно пытались переманить Хаугена. Регулярные встречи были не столько лестными, сколько отражали тот факт, что Facebook удваивалась в размерах каждые два года - ей нужны были квалифицированные кадры.

Хауген никогда не кусалась. Но когда в конце 2018 года с ней связался рекрутер, она сказала, что может быть заинтересована, если работа будет связана с дезинформацией и демократией. В процессе собеседования она рассказала, что ее близкий друг был радикализирован в интернете, и она хочет помочь Facebook предотвратить похожий путь для своих пользователей.

В своем сопроводительном письме она указала, что ей удавалось работать над конфиденциальными корпоративными проектами "с осторожностью".

Она начала работать в Facebook, занимаясь вопросами гражданской целостности, в июне 2019 года.

Изначально Хауген попросили создать инструменты для изучения гражданской дезинформации, не относящейся к сторонней проверке фактов Facebook. Затем, на фоне опасений, что русские распространяют дезинформацию, направленную против активистских сообществ и полицейских, ее перевели на создание системы, которая будет выявлять такую практику. Ее команде, состоящей из нее и еще четырех новых сотрудников, дали три месяца - график , который она считала неправдоподобным. Она не преуспела и получила плохую первоначальную оценку.

"Люди в Facebook добиваются того, что нужно сделать, используя гораздо меньше ресурсов, чем можно было бы предположить", - вспоминает она слова Чакрабарти. Эта фраза должна была мотивировать, но Хауген сочла ее пустым оправданием компании, которая не вкладывает достаточно средств в работу по обеспечению безопасности.

Оглядывая большую команду Integrity, она видела небольшие группы сотрудников, решающих масштабные задачи. В основной группе, отвечающей за выявление и борьбу с эксплуатацией человека человеком, которая включала в себя рабство, принудительную проституцию и продажу органов, было всего несколько следователей. "Я спрашивала, почему не нанимают больше людей", - вспоминает она. "Facebook вела себя так, словно была бессильна укомплектовать эти команды".

Нехватка ресурсов в одной из самых прибыльных компаний мира была не единственной проблемой, которую она увидела. "Меня окружали умные, добросовестные люди, которые каждый день находили способы сделать Facebook безопаснее", - говорит она. "К сожалению, безопасность и рост постоянно ставились в зависимость, и Facebook не желала жертвовать даже долей процента роста".

Хауген стала воспринимать себя и команду Civic как недоукомплектованную бригаду уборщиков. Facebook наняла группу умных и увлеченных людей для решения проблем с потенциально опасными для жизни и здоровья последствиями, но не дала им ни ресурсов, ни власти, чтобы действовать.

Хауген многое расстроило: от неспособности Facebook решить проблему торговли людьми до скрытого потворства влиятельным фигурам. Но прежде всего ее беспокоило то, что компания игнорирует опасность, которую представляет ее платформа для более бедных стран, впервые получивших доступ к интернету. По ее мнению, геноцид в Мьянме, разжигаемый социальными сетями, не был случайностью. Это был шаблон. Facebook постоянно повышал температуру общественных дискуссий. Если компания не изменит курс, ее продукты убьют много людей.

Многие коллеги Хаугена пришли к аналогичному выводу. Сотрудники Integrity, чьи проекты блокировались, иногда говорили о "стрессе" и "выгорании", прежде чем в конце концов решали уйти из компании . Хауген пришла к выводу, что жаргон "белых воротничков" не соответствует их состоянию. Она начала думать о том, что работа Facebook по обеспечению честности и неподкупности приводит к моральным травмам - термин, придуманный американскими психологами для описания набора симптомов, похожих на посттравматическое стрессовое расстройство, которые испытывают ветераны Вьетнамской войны, ставшие участниками чего-то, что предало их глубокие убеждения.

Хауген не хотела себя так чувствовать и понимала, что она не настолько крупная рыба, чтобы добиться чего-то, просто наплевав на компанию по пути к выходу. Кроме того, ее не впечатляло качество общественной дискуссии вокруг компаний, работающих в социальных сетях. Тысячи статей были написаны о том, должен ли Facebook удалять определенные посты, следует ли его разделить, предвзято ли он относится к консерваторам или нет. Но на самом деле, по ее мнению, важна была механика работы Facebook. Компания создала свою платформу таким образом, что она по своей сути была подстрекательской, нестабильной и склонной к манипуляциям. Люди за пределами компании должны были знать подробности.

-

В середине декабря 2020 года я поехал в региональный парк Редвуд в Оклендских холмах. День выдался погожим, но Хауген вышла из машины в тяжелой куртке, флисе, перчатках, леггинсах и теплых сапогах на лодыжках. Пока мимо проходили бегуны в шортах, Хауген рассказала мне историю своего нервного расстройства. Даже легкое похолодание означало несколько часов мучительной боли.

Хауген написал мне сообщение в зашифрованном приложении для обмена сообщениями вечером того дня, когда было проведено общее собрание, на котором было объявлено о ликвидации Civic.

Последние несколько месяцев она вела записи о своих опасениях, поскольку все больше убеждалась, что Facebook не привержен честной работе. Каждый раз, когда что-то беспокоило ее или казалось значительным, она записывала это. Она не знала, что будет делать с этим материалом. Она обратилась в некоммерческую организацию, занимающуюся защитой интересов технологов, но ее собеседник сказал ей, что эта организация не занимается разоблачениями.

В тот субботний день мы несколько минут шли по тропе , немного перегруженной бегунами и велосипедистами, а затем свернули на поляну, чтобы поговорить по-настоящему. Рассказывая о своей работе в компании, она часто останавливалась, чтобы расспросить меня о том, что я знаю о различных системах и процессах Facebook. Не было никаких сомнений, что она проверяет меня: разговор с репортером был бы нарушением ее соглашения о неразглашении с Facebook и потенциальным концом ее технической карьеры. Помимо вопросов о том, как я собираюсь сохранить ее личность в безопасности, она искала доказательства того, что разговор со мной стоит риска.

Мы разговаривали до тех пор, пока под большими деревьями не опустились ранние сумерки. По дороге к нашим машинам Хауген предложила начать встречаться регулярно. По крайней мере, по ее словам, ответы на вопросы могли бы прояснить ее мысли и помочь ей определить, что важно задокументировать до того, как она покинет Facebook.

Последнее обстоятельство отличало Хауген. К моменту встречи с ней я поговорил с десятками бывших сотрудников, которые описали общее созвездие проблем, схожих с ее. Детали были разными: одни бывшие сотрудники были возмущены предполагаемым политическим подстрекательством, другие - опасностью алгоритмического ранжирования контента или привыкания. Но если немного присмотреться, то можно было вырисовать общие контуры. У компании были конкретные доказательства того, что ее продукты могут нанести вред обществу, но ее руководители не хотели рисковать корпоративными интересами и заниматься самокоррекцией.

По опыту я знал, что знающие сотрудники, пришедшие к такому