Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале
Шрифт:
Интервал:
Закладка:
Пока такая позиция непопулярна. Многие в Кремниевой долине полагают, что создание новостных потоков – дело исключительно алгоритмов, за которыми должны следить инженеры[353]. Однако Facebook сам какое-то время придерживался иного мнения, когда нанимал людей-редакторов для блока «трендов», который выводился в списке поиска. Конечно, все это были контрактные работники с низким статусом, которых бесцеремонно выкинули на улицу, когда в одной статье, написанной на основе незначительного количества источников, утверждалось, что в сети подавляется консервативный контент[354]. Вскоре после этого Facebook был завален вышедшими в топ фейковыми новостями, благодаря которым шарлатаны и лжецы смогли добиться немалой публичности и рекламы, не говоря уже о доходных возможностях. Истинный урок всего этого в том, что людям-редакторам в Facebook следует предоставить больше власти, а не меньше, причем их решения должны стать предметом контроля и отчетности. Подобные рабочие места идеальны для профессиональных журналистов, если к ним будут относиться с тем же уважением, с каким в крупных технологических фирмах относятся к инженерам и проектировщикам, и если им будет предоставлена та же автономия. В журналистских школах уже преподают программирование, статистику и анализ данных, которые позволяют заполнить разрыв между секторами технологии и медиа. Также на подобных местах могли бы работать многие местные профессиональные журналисты. После десятилетий сокращений в США к началу 2020 г. осталось примерно 88 тыс. рабочих мест в редакциях и студиях; через несколько месяцев 36 тыс. таких рабочих мест были сокращены[355]. Естественное экономическое изменение должно перенести часть этих экспертных знаний и умений в автоматизированную публичную сферу.
Некоторые исследователи коммуникаций сопротивлялись идее профессионализации сетевого создания контента, его курирования и доставки, отстаивая идею гражданской журналистики, которая должна демократизировать власть прессы, сделав ее доступной для любого человека с компьютером и интернет-подключением. Хотя в теории это прекрасный идеал, на практике он провалился. Неспособность властителей интернета провести различие между статьями из реальной Guardian и Denver Guardian – это не просто нейтральное решение, нацеленное на выравнивание правил информационного поля. Скорее, такая неспособность предсказуемо подпитывает тактики пропаганды, отточенные миллионами долларов, вложенных в данные, пиар и раскрутку. Теневые квазигосударственные акторы хорошо подкованы в темных искусствах искажения, дезинформации и влияния[356]. Свобода для одних – несчастье для других.
В наше время такие крупные конгломераты, как Facebook или Google, действительно берут на себя роль глобальных регуляторов коммуникаций, и уже не важно, плохо это или хорошо. Они должны взять на себя ответственность за эту новую роль, или их раздробят, чтобы это смогли сделать человекосоразмерные организации. Публичную сферу нельзя автоматизировать так же, как конвейер, на котором собираются тостеры. Журналистика как профессия по самому своему существу человечна; и точно так же в редакторских задачах обязательно отражаются человеческие ценности[357]. В этом начинании неизбежно будут возникать глубокие и серьезные конфликты – из-за верного баланса коммерческих и публичных интересов при ранжировании различных источников, из-за прозрачности подобных решений, а также из-за контроля над новостными лентами, который должен быть у отдельных пользователей. Все эти вопросы крайне важны для будущего демократии. Больше нельзя позволять затирать их менеджерам, которые скорее заинтересованы в доходности акций и развитии искусственного интеллекта, чем в базовых демократических институтах и поддерживающем их гражданском обществе.
Гуманизация ИИ автоматизированных медиа
Автоматизированные медиа смогли быстро перестроить коммерческую и политическую жизнь. Фирмы применяли ИИ для решений, которые традиционно принимались менеджерами телестанций или редакторами газет, но с гораздо более мощным эффектом. Платформы в США и Китае изменили читательские и зрительские привычки сотен миллионов людей по всему миру. Новации ударили по газетам и журналистам, когда интернет-платформы стали отнимать доходы у традиционных медиа. Переход к алгоритмически регулируемым социальным сетям в некоторых случаях привел к страшным и даже трагическим последствиям, которые испытали на себе уязвимые группы населения, например мусульманское меньшинство, пострадавшее от толп, которых подстрекали социальные сети. Чуждый интеллект автоматизированных медиа, пагубный для многих демократических государств, на медиарынке, однако, одержал полную победу.
Я говорю о «чуждом», а не просто искусственном интеллекте по нескольким причинам. Прежде всего, он очень далек от паттернов познания, привычных тем, кого он желает заместить. Например, при выборе материала для первой страницы газеты редакторы обычно оценивали новости, опираясь на собственные суждения. У них, конечно, были и коммерческие соображения, а иногда и скрытые мотивы, но решение в принципе все равно можно было сформулировать и приписать определенным людям. Процесс решения о размещении статей в цифровой ленте новостей (или о многочисленных формах алгоритмических медиа, оптимизированных для цифровых сред) становится фрагментированным, как в калейдоскопе. История пользователя, репутация источника новостей, попытки увеличить его популярность и манипулировать ею, а также сотни других переменных – все это мгновенно соизмеряется, сочетаясь в таком виде, который сводит любые качественные факторы к количественным показателям, причем почти всегда этот процесс помещается в черный ящик, который невозможно изучить извне. Исследовать его намного сложнее, чем массмедиа, учитывая персонализацию контента для сотен миллионов индивидов и практически полную невозможность получить действительно репрезентативную выборку того, кто что видел и когда.
Чуждый интеллект указывает также на удаленность менеджеров глобальных технологических компаний от тех следствий в реальном мире, которые влекут их алгоритмы. Такие управленцы могут ввести ту или иную услугу в стране, язык которой неизвестен не только им, но и многим уровням сотрудников, которые перед ними отчитываются. В этом они следуют худшей традиции того, что Торстейн Веблен назвал «абсентеистской собственностью», то есть традиции удаленных контролеров, которые плохо понимают контекст своего бизнеса и его влияние[358]. Когда крупная фирма покупает магазин за тысячи миль от своей штаб-квартиры, обычно она оценивает его эффективность по достаточно грубым показателям, не слишком интересуясь жизнью общества, в котором этот магазин существует. При новом руководстве он, возможно, проигнорирует традиционные функции, которые ранее выполнял, чтобы максимизировать прибыли в соответствии с требованиями абсентеистского собственника. Тогда как актуальный собственник, сам являющийся членом локального сообщества, скорее всего, будет управлять магазином так, чтобы он соответствовал интересам и ценностям этого сообщества, поскольку ему самому выгодно улучшение
