Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг
Шрифт:
Интервал:
Закладка:
Рамсей, по образованию специалист по нейронаукам, не имеет никаких иллюзий насчет свободы воли. Он цитирует разных авторов – изобретателя кибернетики Норберта Винера и психолога Б. Ф. Скиннера, придумавшего «радикальный бихевиоризм», – чтобы убедить меня в том, что человеческое поведение – это продукт среды, которая является частью постоянно работающей петли действия и реакции. Наука вероятности превращает нас в тех, кого можно предсказать статистически. Технологии ИИ пользуются этим знанием, чтобы, по примечательному академическому выражению Рамсея, «изменить будущее распределение поведения». Почему бы не помочь людям, чтобы они, к примеру, вовремя принимали лекарства? Если мы уже детерминированы, не лучше ли передать себя в руки Boundless AI, которая, естественно, хвастается тем, что выбирает лишь «этичных» клиентов?
Однако в словах Рамсея заметен и определенный гуманизм, противоречащий его собственным научным принципам. Благодаря этой шизофренической двойственности он и кажется таким необычным и привлекательным человеком. «Действительно ли мы этого хотим?» – спрашивает себя Рамсей за третьим пивом. На этот раз он ссылается на Жака Эллюля, французского философа техники, чтобы оправдать некий «технологический фатализм»[86]. Невозможно сопротивляться технологии. В крайнем случае можно попытаться обернуть ее против нее самой. Так нечистая совесть Рамсея довела его до того, что он создал антидот от собственных продуктов – специальное приложение Space, которое можно использовать бесплатно. Space позволяет «передохнуть», установив паузу перед тем, как на смартфоне можно будет открыть новое приложение. Space выдает сообщения, которые должны вернуть пользователю власть над собственными желаниями: «Не наша вина, если мы пристрастились к приложениям, ведь они сделаны именно для этого». А уж это Рамсей знает лучше любого другого… Напоминая нам о том, насколько мы подвержены манипуляции и насколько нами действительно манипулируют, Space пытается организовать сопротивление компании Boundless AI и им подобным. Неудивительно, что приложение было запрещено в App Store компанией Apple, и Рамсею пришлось долго бороться в медиа, чтобы его туда вернули. Но этот провал определялся самой концепцией приложения, поскольку Space призван бороться с рефлексами, крепко укорененными в нашей биологической конституции. На сегодняшний день только 10 тысяч Homo connecticus ежедневно включают Space, тогда как число пользователей услуг Boundless AI в двадцать раз больше. Пристыженный Рамсей признаёт, что его пользователи добровольно предпочитают рабство. Бедный доктор Джекил, разгромленный мистером Хайдом!
Когда глубокой ночью мы наконец расстались, Рамсей подарил мне на прощание DVD-диск с «THX 1138», первым фильмом Джорджа Лукаса. Это антиутопия в стиле Хаксли, в которой изображены люди, живущие под постоянным контролем в странном подземном универсуме, снятом в тысяче оттенков белого. Каждый трудится над коллективным счастьем, высшей целью этого зомбированного общества. Чтобы контролировать и подавлять эмоции граждан, правительство выдает им наркотики в виде маленьких белых и красных таблеток. История начинается с того, что два соседа – LUH и THX – перестают принимать эти лекарства, и между ними возникает любовь, которая преследуется властями. За этим следуют то ли фантастические, то ли сновидческие приключения, предвосхищающие более зрелый стиль Лукаса как режиссера. Мысль Рамсея вполне понятна: предлагая нам счастье и накачивая нас постоянными «подталкиваниями», как наркотиками, ИИ способен создать такую форму массового контроля, которая окажется еще более неумолимой именно потому, что будет приватизирована. В ней не будет даже «центра управления», чтобы можно было с ним бороться, как делает THX 1138. Мы попадемся в сети, которые сами же и соткали, создавая одно приложение за другим.
Мы всегда считаем, что люди с зависимостью – это другие. Возвращаясь в гостиницу, я говорил себе: все это не про меня… Уж я-то, с моей волей к жизни, не проглочу эту таблетку. Я, со своим желанием противоречить, не буду подчиняться сладкоречивым сообщениям, придуманным Boundless AI. Я, со своим критическим духом, не поведусь на грубые эмотиконы. Я автономен.
Но потом у меня тоже случилось откровение. Все началось с чтения последней книги Джарона Ланье, купленной по случаю в одном книжном магазине Сан-Франциско[87]. Ланье, гик-либертарианец с легендарными дредами, – мой ориентир по любым вопросам, связанным с технологией. Настоящая икона контркультуры и в то же время исследователь в Microsoft, он имеет все основания изнутри критиковать развитие цифрового мира, в создании которого сам участвовал. В своей предыдущей работе он уже убедил меня в том, что вознаграждение, получаемое за предоставление личных данных, – моральная и экономическая необходимость, без которой нельзя избежать господства больших платформ[88]. Его краткий и сильный памфлет «Десять аргументов за то, чтобы немедленно выйти из социальных сетей» стал похожим откровением[89]. Ланье разоблачает логику «ангажирования», вписанную в алгоритмы социальных сетей. Их бизнес-модель опирается на накопление данных. Чтобы извлекать данные, надо порождать деятельность. Для этого требуется создавать зависимость. А для создания зависимости необходимо играть на наших основных инстинктах: вознаграждение (лайки), конфликт (война твитов), конкуренция (число фолловеров). Оглупление публичных дискуссий, партийная истерика, диктатура эмоций, возвращение практик публичного порицания и массовая дезинформация – все это прямые следствия того постоянного щекотания наших нейронных цепей, которое выполняют социальные сети[90]. Трамп – это не президент, строчащий твиты, а твит, который был избран президентом самой логикой ретвита. Самые изощренные умы бьются над тем, чтобы выразить окончательные суждения, уместив их в 280 знаков. Палитра человеческих чувств сводится к двум реакциям: «нравится» – «не нравится», двум сторонам одной и той же инфантильной регрессии. Социальные сети, как они понимаются сегодня, подрывают наши демократии. Как говорит Ланье, мы все становимся зомби. Решение простое: отключиться.
На теоретическом уровне меня это убедило. Но я все же не собирался бросать 20 тысяч своих фолловеров в твиттере, которых старательно собирал многие годы и с которыми ежедневно общался. Для меня это был настоящий рабочий инструмент, позволяющий мне распространять собственные идеи, делиться статьями, объявлять о публикациях. Как изменить общественное мнение, если не присутствовать там, где оно, собственно, формируется? Вот это я и объяснил Джарону за завтраком.
Слова не
