Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

базовое человеческое решение – когда сходить в туалет – тоже может быть делегировано машине. Как противиться этому безусловному приросту благосостояния? Но как в то же время не видеть в нем запланированного уничтожения наших когнитивных функций? Тут можно даже пожалеть об упразднении работы на конвейере, когда разум еще мог взбунтоваться против тупого повторения телесных движений. Но кто станет бунтовать, когда наши ментальные процессы будут выявляться, предсказываться и контролироваться? Какая зона свободы нам останется? Быть может, все мы станем такими водителями из Didi?

Конечно, городское пространство особенно хорошо поддается такого рода оптимизации. Как объяснил мне доктор Мин Ванли, главный программист проекта City Brain, развиваемого в компании Alibaba, в городе устойчивая типология (конечное число улиц, перекрестков, линий метро) сочетается с динамичным потоком действий (повседневные маршруты, которые более или менее повторяются). Это идеальные условия для тренировки ИИ. Доктор Мин одним из первых точно предсказал колебания городского трафика в 2007 году в Сингапуре, а позднее и в южной части Шанхая. Для инициативы компании Alibaba, одного из четырех цифровых гигантов Китая[95], было выбрано удачное название: разработать «мозг города» – значит получить способность предсказывать и контролировать его основные потребности, то есть не только трафик, но также организацию уборки улиц, управление парковочными местами, качество воздуха и даже городское планирование. Alibaba намеревается стать гением городов.

Ладно, пусть так… Устойчивая типология, динамический поток. Наши ежедневные поездки можно предоставить ИИ. В конце концов, все это мелочи: по какой улице поехать, где припарковаться… Однако мелочи служат моделью для всего нашего поведения в целом.

Главное же в том, что ИИ готовится проникнуть в самые важные вопросы нашей жизни. Даже в подвижных типологиях его результаты постепенно становятся все более точными. Так, я с изумлением обнаружил, что машина отныне готова взять на себя наши профессиональные и любовные решения, реализуя процесс, который очень похож на GPS, предлагающий самый быстрый маршрут.

Предпосылки для этого я обнаружил в ZipRecruiter, успешном стартапе из Лос-Анджелеса, который выступает посредником между предложением рабочих мест и спросом на них. Сегодня услугами ZipRecruiter пользуется более миллиона предприятий и 120 миллионов частных лиц. Его основатель Ян Сигел – идеальный представитель калифорнийской экосистемы: это молодой, приятный в общении и несколько торопливый человек, которого можно увидеть то за столом для пинг-понга, то за шахматной доской, то на удобном диване. Разумеется, Ян подтвердил мне, что ИИ помог значительно увеличить качество его продукта. Использование машинного обучения позволило забыть о восьми годах трудоемкой работы по оптимизации, основанной на скучных и всегда приблизительных списках критериев, служивших инструментами распределения кандидатов и работодателей, – критериев, которые в то же время были лучшим способом не заметить кандидата с оригинальным профилем. Благодаря методам машинного обучения и особенно некоторым его вариантам, связанным с глубоким обучением, работодатель сможет, например, попросить машину найти «кандидата, похожего на такого-то», не предоставляя ей никаких других дополнительных сведений. Алгоритмы сами поколдуют с этим запросом и придумают стратегию, которая в силу отсутствия полной «объяснимости» для людей останется в значительной мере непостижимой. С помощью сопоставлений, использования статистики и корреляций машинное обучение сможет найти иголку в стогу сена: идеального кандидата среди миллионов резюме. Идеального в каком смысле? В смысле компетенции, характера, мотивации? Никто не смог бы сказать наверняка. Машина просто перемешивает значительный объем данных, не стремясь концептуализировать тот или иной критерий. Она выносит чисто эмпирическое суждение, основанное на примерах успеха или неудачи в прошлом. После собеседования часто можно услышать: «N подходит нам по всем критериям». Но машина не ставит галочки возле каждого пункта. Ее сила в том, чтобы идентифицировать индивида как такового или по крайней мере выяснить, что он соответствует сумме предоставленных им данных.

«Какое будущее у этого направления?» – спросил я у Яна. Как можно еще улучшить продукты ZipRecruiter? Конечно, интегрируя все больше данных. Сегодня кандидаты предоставляют в основном сведения, связанные с профессиональной карьерой. Но чем больше дополнительной информации они будут предоставлять – от любимых мест отдыха и своей финансовой ситуации до пищевых привычек, – тем точнее машина будет вести поиски. Разве важно, что кому-то придется рассказывать о своей личной жизни, если в конечном счете будет найдена работа мечты?

Впрочем, остается один важный вопрос: как именно определять «свои» мечты? Уверены ли мы в том, что хотим именно того, чего хотим? Вот тут-то и выясняется смысл нового изобретения ZipRecruiter: вместо того чтобы подавать заявку на определенную позицию в каком-то определенном секторе, можно будет просто заявлять, что ты свободен и ищешь работу. Если мы предоставим достаточно данных не только о компетенциях, но и о самих себе, наших вкусах и любовных увлечениях, машина сможет автоматически предложить нам максимально удачное рабочее место, подходящее нашей глубинной природе и ситуации на рынке труда. Можно представить, как банкиру, к примеру, будет предложено место в булочной, поскольку в его постах в фейсбуке машина выявила желание сменить профессию, в его воскресных прогулках, о которых сохранились геоданные, – стремление к полям с пшеницей, в его распорядке дня – привычку рано вставать, в его чтении Жана Жионо – интерес к выпечке хлеба, в его профессиональном досье – особую склонность угождать клиентам… При этом у машины есть информация, что такой-то булочной, перспективной, но с плохим управлением, очень нужен финансовый директор. По счастливой случайности, выявленной алгоритмом, булочная расположена как раз возле школы, где учатся дети нашего банкира, которых он хотел бы видеть почаще (о чем свидетельствует его переписка в Gmail). Кроме того, потеря в заработной плате будет с лихвой компенсирована наследством, ожидающим банкира в ближайшем будущем, если судить по медицинской карте одного его родственника, изученной ИИ. Какой человеческий мозг смог бы выявить это чудесное переплетение обстоятельств, выделив их среди бесконечных возможностей? И какой упрямец смог бы сопротивляться такому предложению, выкроенному по его собственной мерке? Конечно, как подчеркивает Ян, ZipRecruiter ограничивается предложениями; решение принимает клиент. Он волен претендовать на такой же пост в другом банке, в котором останется столь же несчастным. Однако сила nudge, персонализированного и оптимизированного подталкивания, кажется непреодолимой. Машина знает наши мечты лучше нас самих и прилагает все усилия, чтобы их осуществить.

Я так и остался в изумлении сидеть на стуле, тогда как Ян бодро вскочил и убежал на следующую встречу. Возможно, мне надо записаться на эту будущую платформу, которая могла бы найти лучшее применение моей естественной мизантропии, чем журналистика. Я почувствовал головокружительную ясность, осознав, что пророчество Юваля Харари, изложенное в его книге «Homo deus», вот-вот сбудется у нас на глазах. ИИ в своей сложной форме машинного обучения больше не довольствуется удовлетворением наших потребностей. Он будет сам определять их. Да