Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц
Шрифт:
Интервал:
Закладка:
" Когда нашу работу неправильно характеризуют, мы не собираемся извиняться", - заявил журналу представитель компании Энди Стоун.
Если в новостях и пролилась кровь, Мета не собиралась ее показывать. Цукерберг велел команде по планированию персонала компании представить ему агрессивный план найма на 2022 год. Когда сотрудники представили ему беспрецедентно амбициозный план по привлечению 40 000 новых сотрудников в этом году, Цукерберг взял одностраничный документ, известный как "салфетка", и передал его обратно с рукописным указанием нанять еще 8 000 человек.
"Если мы не достигнем этих целей, игра окончена", - сказала вице-президент по рекрутингу Миранда Калиновски менеджерам своего штата. Чтобы справиться с наплывом сотрудников, Meta привлекла еще 1000 рекрутеров в период с последнего квартала 2021 года по первый квартал следующего года.
Лишь немногие из новых сотрудников будут работать в сфере добросовестности. Цукерберг заявил, что существующие продукты компании больше не являются ее будущим, а утечка документов Хаугена укрепила ощущение, что исследователи и специалисты по обработке данных, занимающиеся проблемами общества, являются потенциальной корпоративной пятой колонной.
Это предположение было не совсем ошибочным. Чего бы ни добилась компания в результате репрессий в отношении исследования честности, за достижения пришлось заплатить. Вскоре после введения обязательного "Нарративного превосходства" на связь вышел сотрудник, с которым я пытался связаться за несколько месяцев до этого. Этот человек работал над деликатной темой и долгое время был уверен, что сможет принести больше пользы, если будет работать тихо, а не разговаривать с репортером. Новые требования компании к работе сломили их.
Через несколько месяцев в журнал снова стал поступать постоянный поток документов от них и других сотрудников - тысячи дополнительных страниц. Несмотря на усилия Меты по усмирению неуправляемого распространения информации на Рабочем месте, материал все еще был хорош.
В одном из новых документов рассказывается о том, как Цукерберг пытался избавить Facebook от политики. Вместо того чтобы продолжать усилия по борьбе с тенденцией платформы к усилению возмутительного и сенсационного политического контента после 2020 года, генеральный директор попросил, чтобы News Feed попробовала удалить в небытие все, что классификаторы Facebook посчитали связанным с политикой, здоровьем или социальными вопросами. Хотя Цукерберг был готов смириться с падением вовлеченности в Facebook, чтобы подавить то, что он когда-то превозносил как "пятую власть", попытка зашла в тупик. Политический контент ускользал от несовершенных классификаторов платформы, пожертвования в благотворительные фонды сокращались, и, что самое страшное, опросы показывали, что люди по-прежнему ассоциируют Facebook с политикой. Эксперименты показали, что скромная отдача будет стоить "дорого и неэффективно", и Цукерберг лично остановил работу.
Не в силах избежать политических разговоров, платформа вернулась к работе над тем, чего давно добивалась команда Civic и другие: прекратить рекомендовать политический и медицинский контент, основываясь исключительно на его способности обеспечить максимальную вовлеченность.
Другая история, основанная на свежих утечках документов, показала, что Meta пыталась ограничить распространение переработанного вирусного контента в пользу организаций, производящих оригинальный материал, - этот шаг Сильверман, Аллен и команда Facebook по партнерствам продвигали с конца 2017 года, но с ограниченным успехом. Что изменилось, так это попытка Meta конкурировать с TikTok путем активного продвижения коротких видеороликов от организаций, за которыми пользователи не следят. Освобожденные от последних остатков пользовательского вкуса, рекомендательные системы Facebook и Instagram вовсю продвигали бутлегированные медиа, драки людей и чрезмерную сексуальность. В одном из документов говорится, что 70 % двадцати самых просматриваемых постов в Facebook в третьем квартале 2021 года соответствовали официальному определению компании "достойные сожаления", а остальные 30 % были приманкой для вовлечения. К началу 2022 года Мета созвала "Военную комнату качества контента". Хотя Аллен и Сильверман, с тех пор ушедшие из Facebook, не были впечатлены, когда я рассказал им о деталях ее работы, это казалось началом.
Самые заметные из новых документов касались не столько проблем на платформах Meta, сколько работы компании над целостностью. В течение четырех лет Facebook принимала решения, основываясь на том, что Гай Розен назвал " обычным напряжением между ростом и целостностью". Независимо от того, какова была цель - борьба с разжиганием ненависти, замедление распространения дезинформации или снижение рейтинга неоригинального контента, - тесты регулярно показывали, что изменения в рейтинге честности происходили за счет роста. Сотрудники, ориентированные на честность, неизменно утверждали, что их предложения по очистке платформы принесут пользу Facebook в долгосрочной перспективе, в то время как их коллеги, ориентированные на рост, указывали на краткосрочные экспериментальные данные и насмехались.
В ответ на это расстроенные ученые разработали необычный эксперимент , отслеживая совокупный эффект от работы над целостностью в сравнении с контрольной группой, известной как "минимальное удержание целостности". К концу 2021 года эксперимент дал достаточно данных, чтобы ученые смогли сформулировать четкий вывод. Facebook уже много лет искажала способы измерения эффекта добросовестной работы.
Все изменения в рейтинге честности, которые они внесли, действительно повлияли на посещаемость Facebook, как и предполагали скептики, но только на шесть месяцев. После этого и еще долгое время после того, как Facebook отменил свои эксперименты, ущерб, нанесенный метрикам вовлеченности компании, уменьшился до статистической незначительности. Примерно через год работа над честностью начала приносить скромный, но статистически значимый прирост пользователей, особенно среди молодых и нечастых пользователей. Сетевые эффекты не позволили подсчитать истинный размер прироста, но, скорее всего, он был больше той доли процента, которую смогли измерить специалисты по обработке данных.
"Чтобы создать идеальную экосистему Facebook - то есть экосистему с высокой степенью вовлеченности и высокой целостностью - мы должны инвестировать в большее (и более интенсивное) количество продуктов целостности", - говорится в заключении.
Первоначальная реакция на исследование была скептической. Поскольку в записке признавалось, что это "серьезные последствия для Facebook", руководители поручили нескольким старшим специалистам по обработке данных проверить работу на предмет вычислительных ошибок и сбоев в системе, которые могли испортить результаты.
Но успехи были реальными. Работа над целостностью новостной ленты в течение многих лет способствовала росту, чего компания не понимала.
Хорошая новость этого открытия заключалась в том, что Facebook, вероятно, сможет повысить вовлеченность, инвестируя в более сильное ранжирование целостности новостной ленты. Плохая новость заключалась в том, что, блокируя или затушевывая прошлую работу по обеспечению честности, компания, вероятно, загрязняла свою платформу в ущерб как пользователям, так и себе.
Смущающие последствия в течение нескольких месяцев не давали разрешения на распространение исследования. В конце концов, руководители одобрили его распространение среди сотрудников Integrity,
