Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц

Интерес Кокса к поляризации был хорошо известен, и Чакрабарти провел его по слайдам, показывающим, как небольшая группа страниц сумела выпустить малобюджетные вирусные хиты, которые превзошли активность легальных цифровых издателей. Позже Чакрабарти скажет своей команде, что Кокс был шокирован успехами македонцев. "Нам нужно работать над этим", - сказал Кокс, по словам людей, с которыми Чакрабарти разговаривал после этого.

Следующим докладчиком стал Сэндберг, который, похоже, понял, что фальшивые новости - это и законная проблема, и серьезная угроза общественному мнению. Команда по ранжированию ленты новостей уже работала над количественной оценкой проблемы дезинформации и продумывала способы борьбы с ней, но никто не обращал внимания на остальную часть платформы, экосистему политических групп и страниц, которые помогали ускорить продвижение такого контента.

Даже если проблема казалась большой и насущной, изучение возможных средств защиты от недобросовестных вирусных обсуждений было для Civic новой территорией, и команда хотела начать с малого. Кокс явно поддерживал участие команды, но изучение защиты платформы от манипуляций все равно было бы подработкой по сравнению с основной работой Civic, которая заключалась в создании полезных функций для публичных обсуждений в Интернете.

Через несколько месяцев после выборов 2016 года Чакрабарти обратился к Цукербергу с просьбой. Чтобы создать инструменты для изучения политической дезинформации в Facebook, ему нужны были еще два инженера в дополнение к восьми, которые уже работали над повышением уровня политического участия.

"Сколько инженеров у вас в команде сейчас?" спросил Цукерберг. Чакрабарти ответил ему. "Если вы хотите это сделать, вам придется самим изыскивать ресурсы", - сказал генеральный директор , по словам членов Civic. У Facebook было более 20 000 инженеров, и Цукерберг не захотел выделить команде Civic двух из них для изучения того, что произошло во время выборов.

Вместо этого Чакрабарти перевел двух своих сотрудников и обратился за помощью к сотрудникам подразделения Core Data Science - ближайшего к Facebook подразделения, занимающего должность профессора и не связанного с исследованиями в области искусственного интеллекта. Сивик без труда нашел там помощь. Для людей, изучающих поведение человека с помощью количественных методов, вопрос о том, как иностранные издатели мистификаций и плагиаторы добились такого успеха, был захватывающим.

К концу 2017 года Чакрабарти руководил штатом из почти ста человек. Официально Civic была частью команды Facebook Media, которая существовала для содействия использованию платформы общественными деятелями - произвольная расстановка, но в конечном итоге она попала в сферу компетенции Кокса, и поддержка Кокса была ключевой. Глава отдела продуктов Facebook поддерживал и направлял ресурсы не только на Civic, но и на любую команду, нацеленную на понимание уязвимостей и непредвиденных последствий платформы. Кокс, похоже, осознавал, что он имеет решающее значение для выполнения этой работы: незадолго до того, как он ушел в трехмесячный отпуск по уходу за ребенком в 2017 году, он отправил записку всем, кто работал над целостностью, признавшись, что "испытывает изрядную долю беспокойства" из-за того, что проводит так много времени вне офиса.

"Мы переживаем трудные времена", - написал он, поблагодарив "многих из вас, кто посвящал ночи и выходные усилиям по поддержанию целостности в течение последних нескольких недель, находясь под обстрелом".

Их работа была самой важной для компании, писал он, и перед уходом Кокс высказал последнюю просьбу. "Покопайтесь поглубже в вопросах качества", - написал он. "Это та область, в которой, как я знаю, мы можем добиться большего".

Моделью, к которой должна стремиться Facebook, пишет Кокс, является производственная технология, впервые примененная компанией Toyota под названием "Остановить линию". Суть ее заключалась в том, что каждый сотрудник должен был останавливать всю производственную линию при обнаружении дефекта. Поначалу эта техника приводила к постоянным остановкам, доставляя всем неудобства, но это был самый быстрый способ выявить первопричины повторяющихся проблем.

По его словам, добросовестные сотрудники должны считать себя частью производственного конвейера Facebook и жать на тормоза всякий раз, когда видят, что компания работает некачественно. Только улучшив процесс и уделив время выявлению источников неудач, компания сможет продемонстрировать свою заботу о демократии и общественном дискурсе.

Не было нужды указывать на то, что это послание противоречит принципу "Двигайся быстро и ломай вещи".

Вопросы, на которые пыталась ответить компания Civic, вскоре стали менее академичными. Вместо того чтобы консультироваться с экспертами, например, о том, что делает онлайн-таунхаус конструктивным форумом, сотрудники создавали инструменты проверки на предмет аномального поведения пользователей в преддверии внеочередных выборов в Сенат Алабамы в декабре. В рядах новых сотрудников все чаще стали появляться сотрудники с опытом работы в правоохранительных органах, что способствовало ощущению реальности рисков платформы и высоких ставок.

-

После первоначального отказа Цукерберга от участия в проекте Civic он становился все более заметной частью усилий Facebook по очистке территории после выборов. Чакрабарти стал постоянным участником блога компании Hard Questions, написав такие посты, как "Какое влияние оказывают социальные медиа на демократию?", опубликованный в январе 2018 года. "Я бы хотел гарантировать, что положительные моменты обязательно перевесят отрицательные, но не могу", - написал он. "Именно поэтому мы обязаны понять, как используются эти технологии и что можно сделать, чтобы такие сообщества, как Facebook, были как можно более представительными, гражданскими и заслуживающими доверия".

К сообщению прилагалось видео, в котором Чакрабарти, мужчина с квадратной челюстью и седеющими волосами, искренне говорил в камеру о том, почему он верит, что компания сможет справиться с этой задачей. "Я надеюсь на будущее, что та же изобретательность, которая сделала Facebook невероятным способом общения с друзьями и семьей, может быть применена и для того, чтобы сделать его важным и мощным способом взаимодействия людей со своими сообществами", - сказал он.

Снятое в солнечной комнате под мягкий фортепианный саундтрек, признание в ролике, что Facebook может не быть благом для демократии, вряд ли было радикальным для 2018 года. Но для представителя Facebook это все равно было большим событием. При всех утопических рассуждениях руководителей о способности платформы предотвращать войны, подавлять ненависть и рождать демократии, они никогда не задумывались о том, что она может причинять вред в таких же масштабах.

Хотя признание того, что социальные сети могут не быть силой всеобщего блага, стало шагом вперед для Facebook, обсуждение недостатков существующей платформы оставалось сложным даже внутри компании, вспоминает менеджер по продуктам Элиз Лю.

"Люди не любят, когда им говорят, что они не правы, и особенно они не любят, когда им говорят, что они морально не правы", - говорит она. На каждой встрече, на которую