Искусственный интеллект – надежды и опасения - Джон Брокман

Предостережения Винера насчет систем управления, неподвластных человеческому контролю, прозвучали в 1949 году, как раз когда появилось первое поколение электронных цифровых компьютеров с хранимыми в памяти программами. Эти системы требовали прямого контроля со стороны людей-программистов и тем самым как бы опровергали его опасения. В чем проблема, пока программисты контролируют машины? С тех пор и по сей день споры о рисках самостоятельности увязывались и увязываются с дебатами о возможностях и ограничениях кодированных цифровыми способами машин. Несмотря на их удивительные способности, налицо весьма скромные проявления самостоятельности. Впрочем, предаваться самоуспокоенности опасно. А что, если на смену цифровым машинам придут какие-то другие?

За минувшие сто лет электроника претерпела два фундаментальных изменения – переход от аналога к цифре и переход от вакуумных ламп к печатным платам. Тот факт, что эти переходы происходили вместе, не означает, что они неразрывно связаны. Цифровые вычисления производились с использованием ламповых компонентов, тогда как аналоговые вполне возможно выполнять с применением плат. Аналоговые компьютеры, если угодно, живы и здоровы до сих пор, несмотря на фактическое исчезновение вакуумных ламп из коммерческой эксплуатации.

Никто не в состоянии провести строгое различие между аналоговыми и цифровыми компьютерами. Цифровые вычисления больше опираются на целые числа, двоичные последовательности, детерминированную логику и идеальное время, делимое на дискретные приращения, тогда как аналоговые вычисления оперируют действительными числами, недетерминированной логикой и непрерывными функциями, в том числе временем как континуумом, каким оно воспринимается в реальном мире.

Вообразите, что вам нужно отыскать середину дороги. Можно замерить ее ширину с любыми допусками, а затем вычислить цифровым способом среднее значение до ближайшего допуска. Или можно трактовать отрез веревки в качестве аналогового компьютера, сопоставить ширину дороги с длиной отреза и определить середину, без необходимости делать допуски, просто удвоив длину веревки.

Многие системы используют в работе как аналоговый, так и цифровой режимы. Дерево объединяет широкий спектр входных данных в виде непрерывных функций, но если его срубить, вы обнаружите, что оно считало прожитые годы в цифровом виде.

В аналоговых вычислениях сложность заключается в сетевой топологии, а не в коде. Информация обрабатывается как непрерывные функции значений, например напряжение и относительная частота импульсов, а не посредством логических операций над дискретными строками битов. Цифровые вычисления, нетерпимые к ошибкам и неоднозначностям, зависят от исправления ошибок на каждом этапе. Аналоговые вычисления допускают ошибки и дают определенную свободу действий.

Природа использует цифровое кодирование для хранения, репликации и рекомбинации последовательностей нуклеотидов, но полагается на аналоговые вычисления в нервной системе с точки зрения разумности и контроля. Генетическая система каждой живой клетки представляет собой компьютер с программой в памяти. А вот мозг – нет.

Цифровые компьютеры выполняют преобразования между двумя разновидностями битов: теми, которые репрезентируют различия в пространстве, и теми, которые репрезентируют различия во времени. Преобразования между этими двумя формами информации, последовательностей и структур подчинены компьютерному программированию, и, пока компьютерам требуются люди для программирования, мы сохраняем контроль.

Аналоговые компьютеры тоже опосредуют преобразования между двумя формами информации – структурой в пространстве и поведением во времени. Но здесь нет кода и нет программирования. Каким-то образом – мы не до конца понимаем, как именно, – Природа создала аналоговые компьютеры, известные нам как нервная система; эта система накапливает информацию, полученную из внешнего мира. Она способна учиться. В частности, нервная система учится контролю. Она учится контролировать собственное поведение, а также максимально подчинять себе свое окружение, насколько это возможно.

Компьютерная наука имеет долгую историю – восходящую к временам, когда не было никакой компьютерной науки, – применения нейронных сетей, но по большей части это были имитации нейронных сетей с помощью цифровых вычислительных машин, а не нейронные сети как таковые, эволюционировавшие в дикой природе. Ситуация начинает меняться, причем как снизу вверх, поскольку тройственная движущая сила (беспилотные дроны, автономные транспортные средства и мобильные телефоны) стимулирует разработку нейроморфных микропроцессоров, которые воспроизводят реальные нейронные сети, а не их имитации, прямо в кремнии (и прочих потенциальных субстратах), так и сверху вниз, поскольку наши крупнейшие и наиболее успешные компании все чаще обращаются к аналоговым вычислениям, стремясь охватить и покорить весь мир.

Пока мы спорим о разумности цифровых компьютеров, аналоговые вычисления тихо и незаметно превосходят цифровые, точно так же, как аналоговые компоненты наподобие вакуумных ламп стали применяться по-новому для конструирования цифровых компьютеров после Второй мировой войны. Индивидуально детерминированные процессоры конечных состояний, работающие с конечными кодами, формируют крупные, недетерминированные метазонные организмы неконечных состояний, привольно существующие в реальном мире. Итоговые гибридные аналоговые/цифровые системы обрабатывают потоки битов совместно, тем способом, каким поток электронов обрабатывается в вакуумной лампе, а не по отдельности, подобно битам в устройствах с дискретным состоянием, генерирующих поток. Биты суть новые электроны. Аналог вернулся, и его назначение – взять на себя управление.

Управляя всем, от потока товаров до дорожного трафика и потока идей, эти системы действуют статистически, как закодированная импульсной частотой информация обрабатывается в нейроне или мозге. Возникновение разума привлекает внимание Homo Sapiens, но на самом деле нас должно беспокоить расширение самостоятельности. Вообразим, что на дворе 1958 год и нам нужно защитить континентальную территорию Соединенных Штатов Америки от потенциальных воздушных атак. Чтобы выявлять вражеские самолеты, потребуется, помимо сети компьютеров и радиолокационных станций раннего предупреждения, карта всего коммерческого воздушного движения, обновляемая в режиме реального времени. США создали такую систему и назвали ее SAGE (полуавтоматическая наземная среда). Система SAGE, в свою очередь, породила Sabre, первую интегрированную систему бронирования авиабилетов в режиме реального времени. Система Sabre и ее «потомки» вскоре сделались не просто картой свободных мест в самолетах, а этакой сетью с децентрализованным управлением, которая начала определять, где и когда летать авиалайнерам.

Но разве нет где-нибудь пункта управления, где кто-то сидит за пультом? Возможно, нет. Скажем, вы разрабатываете систему картографирования дорожного движения в режиме реального времени, всего-навсего предоставляя автомобилям доступ к карте в обмен на сообщение их скорости и местоположения в данный момент. Результатом будет полностью децентрализованная система управления. Нигде не найдется никакой управляющей модели, кроме самой системы.

Представьте, что идет первое десятилетие XXI века и вы хотите отслеживать сложность человеческих отношений в режиме реального времени. Если речь о социальной жизни небольшого колледжа, можно создать исходную базу данных и поддерживать ее в актуальном состоянии, но обновление такой базы станет отнимать все больше времени по мере ее разрастания. Лучшим вариантом будет раздавать бесплатные копии простого полуавтономного кода с локальным хостингом и позволить социальной сети обновляться самостоятельно. Этот код обрабатывается цифровыми компьютерами,