Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

«сложной проблемой» сознания, для Деана сложным не является. Шестьдесят миллиардов нейронов нашего мозга обрабатывают полученную информацию в зависимости от генетической предрасположенности и нашего прошлого опыта. В тот день, когда нейроны будут полностью картографированы, мы сможем предсказывать наши психические процессы с той же точностью, что и рикошет бильярдных шаров. Деан не отвергает, однако, «автономной способности к решению», он только проводит четкое различие между нею и темной непредсказуемостью «свободы воли». «Система 2» может, конечно, принимать сложные решения, разумно взвешивая все «за» и «против», однако в конечном счете эти решения определяются нашей биологической конституцией. Тот факт, что наши действия являются результатом исключительно сцепления причин и следствий, не означает их иррациональности, скорее наоборот. Вполне логично, что Деан не видит никакой причины, по которой ИИ не мог бы обладать такой же «автономной способностью к решению», искусственно воспроизводя нашу способность к внутреннему рассуждению. У машины свободы воли не больше и не меньше, чем у нас, людей. То есть она могла бы с полным основанием поддержать нас в применении нашей собственной рациональности.

Итак, мы видим несколько обескураживающее слияние психологии, поведенческой экономики и нейронаук, которые все в равной мере отвергают свободу воли. Это представление популяризируется такими эссеистами, как Сэм Харрис, который крайне упрощает детерминистское рассуждение, полагая, что наши мысли – плод одних лишь физических законов и что, следовательно, «моя психическая жизнь дана мне в силу специфического устройства космоса»[82]. Столь радикальный тезис влечет весьма значимые следствия для нашего представления о праве, экономике или любви. Если действия людей детерминированы, значит, к ним в целом не применима никакая моральная ответственность. А как же тогда наказывать преступников, вознаграждать достижения или требовать верности? И наоборот, не становится ли каждый ответственным за общее благо, если всякое действие может изменить поведение другого? Сэм Харрис охотно признаёт, что наши общества по-прежнему основаны на постулате автономного индивида, и боится «культурной войны», разворачивающейся вокруг свободы воли. Споры на эту тему наверняка выйдут за пределы здравомыслящих кругов научного сообщества, что приведет к расшатыванию всех наших институтов. Разве уже сегодня мы не требуем от социальных сетей следить за пагубным влиянием, которое способен оказывать на их пользователей определенный контент, и не признаём ли тем самым, что сами пользователи не располагают никакой свободой психического маневра, позволившей бы им избежать своей цифровой судьбы? Ян Лекун подтвердил мне высокую прогнозируемость поведения пользователей Facebook, которые едва ли не систематически поступают в соответствии с предсказаниями данных. В детерминистском мире нужно контролировать поведение гражданина на первых этапах, а не наказывать его за результаты.

Эти теории свободы воли сегодня в моде, они предоставляют сильные аргументы, оправдывающие современное применение ИИ, когда машина все больше заменяет индивидуальное суждение. Модные критики «надзорного капитализма»[83], даже если они правы в констатации общей манипуляции поведением, с моей точки зрения, упускают эпистемологическое основание этих практик. Задача не только в получении прибыли, но и в том, чтобы принести людям добро вопреки их сознательным предпочтениям. Как верно пишет социолог Доминик Кардон, изучающий большие данные, «опираясь в значительной мере на работы по психологии и экспериментальной экономике, архитекторы новых алгоритмов больших данных уверяют, что следует доверять только реальному поведению людей, а не тому, что они, по их собственному мнению, делают, когда рассказывают о себе»[84]. Цель этой работы по сбору данных, позволяющей определить наше реальное поведение, скрытое за явными намерениями, – получить возможность тонкой настройки наших будущих действий и мыслей. Как только индивиды освобождаются от категорий и усредненных величин, они, поскольку их обрабатывают, учитывая их индивидуальность, становятся «механическими мышами в лапах вычислителей»[85]. Мышами, которые не могут выбраться из своего лабиринта, поскольку игра корреляций стремится стабилизировать наши собственные характеристики. Как указывает мне Эммануэль Кандес, статистик из Стэнфорда, корреляция становится нормативной. Невозможно убежать от самого себя.

Было бы слишком просто не принимать всерьез благие намерения технологической сферы. Общество турникетов – это прямое следствие отказа от свободы воли. А раз свобода воли – фикция, почему бы не положиться на сеть хорошо продуманных стимулов? Если наши решения все равно страдают от предвзятости, почему бы не делегировать управление нашими интересами системам, которые знают их лучше нас самих? Не является ли nudge, внедряемый правительствами, а также частными компаниями, решением всех наших проблем?

Универсальный nudge

ИИ в той форме, в какой он ныне понимается цифровой индустрией, в полной мере задействован в этом универсальном nudge, обеспечивая персонализацию и оптимизацию. Каждого подталкивают в зависимости от предоставленных им данных, которые позволяют точно идентифицировать его поведение. Nudge определяют по двум критериям: во-первых, по уровню благосостояния пользователя, во-вторых, по степени коллективной полезности. И в этом он, безусловно, имеет самое прямое отношение к политике.

Эта глубинная функция ИИ предстала передо мной на закате, на террасе в Венис-Бич, где я пил пиво с Рамсеем Брауном, основателем стартапа Boundless AI и одним из самых колоритных людей, с какими мне довелось встретиться. Рамсей со своей ухоженной бородой, расстегнутой до пупка гавайской рубашкой и бритым по бокам черепом представляет собой удивительную смесь православного священника, Бернара-Анри Леви и Джастина Бибера. Он радостно затащил меня на пляж на западе Лос-Анджелеса, в квартал, где тусуются молодые технари, которых из Кремниевой долины прогнали высокие цены на недвижимость. В итоге мы оказались в его скромном бунгало, где пили торфяной виски, курили турецкие сигареты с гвоздикой и проговорили несколько часов. Рамсей поведал мне о своих сомнениях с поистине редкой откровенностью – откровенностью честного человека, погруженного в самую инвазивную технику, которую только знало человечество.

Официально миссия Boundless AI – это «соединение нейронаук и ИИ для простых личных поведенческих решений». То есть речь о такой манипуляции Homo connecticus, которая позволит контролировать его реакции и направлять его выбор. Говоря конкретно, Boundless AI предоставляет приложениям проверенные нейронауками техники, помогающие выработать у пользователей пристрастие к таким приложениям. Иными словами, компания продает зависимость. Рамсей понял это, когда попытался выполнить свое совершенно правильное решение заниматься спортом, принятое им в начале года: почему его приложение для бега не может мотивировать его более проактивно? Boundless AI предлагает довольно простые стимулы, такие как заработанные баллы или поздравления. Рамсей говорит, что четкое сообщение для мозга – как игровой автомат для казино: это самый примитивный, но в то же время самый эффективный инструмент. Тем более что знание схем вознаграждения мозга позволяет проводить весьма тонкую настройку, которая соответствует вкусам и чувствительности каждого. Самое страшное, что это работает: благодаря напоминаниям, настроенным на точно выбранный момент, приправленным правильной дозой подбадривания