Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц

Успокоившись, Гомес-Урибе согласился на работу. Его убежденность в том, что рекомендательные системы Facebook нуждаются в исправлении, только усилилась после того, как он получил возможность увидеть изнутри, как компания их строит.

Работа Facebook по ранжированию была небрежной - по-другому и не скажешь. Компания изменила свои системы рекомендаций на основе A/B-тестов, которые проводились в течение всего нескольких недель, что на месяцы меньше того срока, который Netflix считал необходимым для наблюдения за долгосрочными изменениями в поведении пользователей. Facebook отнесся к формированию глобальной коммуникационной и вещательной платформы более бесцеремонно, чем Netflix к решению направить пользователей в сторону The Great British Bake Off. (Представитель компании оспорил воспоминания Гомеса-Урибе о поспешном и неадекватном тестировании изменений в рейтинге, назвав эксперименты компании тщательными и направленными на улучшение пользовательского опыта).

Не ограничиваясь подходом к экспериментам по принципу "лучше сделать, чем сделать идеально", Гомес-Урибе также задался вопросом, что именно измеряет Facebook. Возможно, платформе нужно переосмыслить способ подсчета вовлеченности, подобно тому, как Netflix переосмыслил, что значит для видео быть хорошим матчем.

В истории Facebook уже были прецеденты такого рода систематического переосмысления, которое представлял себе Гомес-Урибе. Первый подход к ранжированию, основанный на лайках, был грубым, и через несколько лет стало ясно, что пользователи ставят лайки своим друзьям не потому, что действительно ценят их, а как простой маркер, который говорит другу: "Да, я это видел". Когда ценность "лайков" снизилась, компании потребовалось новое поведение пользователей, которое можно было бы максимизировать. Она начала определять приоритеты времени, проведенного на платформе.

Но изменение показателей может изменить поведение, и переориентация на затраченное время привела к тому, что Facebook стал поощрять пользователей к просмотру большого количества видео в ущерб другим видам деятельности. Это имело свои недостатки, поэтому Facebook пошел на попятную и придал больший вес контенту, содержащему сочетание эмодзи, комментариев и лайков.

Этот процесс стал для компании тяжелым испытанием. Никто не предсказал обесценивания "лайков" или того, что показ пользователям большего количества видео снизит общее производство контента на платформе, хотя в ретроспективе и то, и другое имело смысл. Признавая, что Facebook многого не знал, Моссери стал увещевать команду разработчиков ленты новостей всегда быть начеку и искать "односторонние двери" в продукте, то есть изменения, которые могут изменить его таким образом, что их нельзя будет легко отменить, если платформа удивит своих надзирателей.

"Это было достойно восхищения, и я до сих пор постоянно думаю об этом", - сказал один бывший старший инженерный менеджер. "Но если вы пройдете через слишком много дверей, то со временем не сможете вернуться к первой - двухстворчатые двери становятся одностворчатыми". Другими словами, некоторые изменения не так-то просто отменить.

Каждый квартал компания вносила десятки изменений в ранжирование, и каждое новое решение накладывалось на предыдущие. Совокупный вес всех этих изменений, как правило, не давал возможности для серьезных преобразований. Тысячи инженеров потратили годы на оптимизацию платформы на основе согласованных показателей успеха. Изменить что-то основополагающее было бы равносильно тому, чтобы отбросить годы с таким трудом достигнутых успехов.

Именно это и хотел сделать Гомес-Урибе, на которого сильно повлияло время работы в Netflix: выкинуть все это. Он вспомнил, как потоковый сервис научился обращать внимание на то, сколько времени пользователи тратят на каждый фрагмент контента. Если люди бросали смотреть телешоу через три минуты, это был худший знак, чем если бы они вообще его не смотрели.

Команда Гомеса-Урибе начала разрабатывать новую систему, которая поощряла бы только содержательное участие: если пользователь увидел что-то и сразу же нажал кнопку "поделиться", это будет стоить меньше, чем, скажем, если он продержит пост открытым в течение минуты, а затем оставит комментарий. Это поощряло то взаимодействие, к которому они стремились, но как способ решения проблем целостности подход не оправдал себя - количество времени, проведенное пользователем с контентом, не коррелировало с тем, был ли он точным и содержательным.

Второй подход был более перспективным, хотя и спорным. По мнению Гомеса-Урибе, самые активные пользователи Facebook могут оказаться не на пользу платформе. Анализ данных показал, что существует небольшая, но значительная часть пользователей, которые, похоже, проводят на Facebook невероятное количество времени. Иногда цифры наводили на мысль о недобросовестности. Как может быть, что аккаунт, в который заходят по двадцать часов в день, не автоматизирован и не управляется людьми, работающими посменно?

Команде Гомеса-Урибе не поручалось работать над проблемой российского вмешательства, но один из его подчиненных заметил нечто необычное: некоторые из самых гиперактивных аккаунтов, казалось, полностью уходили в темноту в определенные дни года. Оказалось, что время их простоя совпадает со списком государственных праздников в Российской Федерации.

"В России уважают праздники?" - вспоминает он. "Неужели мы все такие тупые?"

Но пользователям не обязательно быть иностранными троллями, чтобы продвигать проблемные посты. Анализ, проведенный командой Гомеса-Урибе, показал, что класс влиятельных пользователей Facebook, как правило, предпочитает более современный контент, и они более склонны к крайним пристрастиям. Кроме того, они были более плодовиты - они ставили лайки, комментировали и перепощивали гораздо больше контента, чем обычные пользователи. Эти аккаунты были исключением из правил, но поскольку Facebook рекомендовал контент на основе совокупных сигналов вовлеченности, они оказывали огромное влияние на рекомендации. Если Facebook и был демократией, то такой, в которой каждый мог голосовать когда угодно и как угодно.

После работы в Netflix и Google - обе компании ограничивали степень влияния отдельного пользователя на рекомендации - подход Facebook показался Гомес-Урибе странным. Netflix никогда бы не создал алгоритм, который позволил бы человеку, смотрящему восемьдесят часов телевизора каждую неделю, в десять раз больше влиять на рекомендации, чем тому, кто смотрит восемь. Netflix не имеет ничего против просмотра телепередач, но идея о том, что все просмотры равны, была в корне искажена.

Поэтому команда Гомеса-Урибе предложила большое, но простое решение. Facebook перестроит алгоритм новостной ленты, чтобы ограничить влияние гиперактивных пользователей. Платформа по-прежнему будет учитывать их вовлеченность, но чем больше они будут вовлечены, тем меньший вес в рекомендациях Facebook будет придаваться каждому дополнительному действию. Для этого пришлось бы изменить математику подсчета вовлеченности каждой страницы, группы и комментария. По словам Гомеса-Урибе, для перестройки системы потребуется около двадцати человек, а после завершения работы News Feed придется заново обучать, чтобы ускорить многолетние усилия по оптимизации. Это будет не маленькая задача, именно тот амбициозный проект, который, как заверили Гомеса-Урибе, он сможет реализовать.

Несмотря на требуемую работу, идея сразу же понравилась многим руководителям высшего звена, работавшим в других крупных технологических компаниях. Среди тех,