Хоббит, который познал истину - Вадим Проскурин

Целая глава отчета была посвящена вопросу о потенциальной опасности искусственного интеллекта (бунт роботов и все тому подобное). Автор утверждал, что опасность такого бунта сильно преувеличена. Фактически разумная машина есть не что иное, как раб, только построенный не на белковой, а на полупроводниковой основе. Да, рабство - это плохо, но рабовладельческий строй существовал много тысячелетий и, несмотря на все недостатки, показал себя весьма эффективной формой общественного устройства. Принято считать, что Рим погубило рабство, но в трудах современных историков причина гибели Рима обозначается совсем другим словом. Словом "глобализация". Рабы начали бунтовать не из-за того, что вдруг резко осознали бедственность своего положения, а из-за общего обеднения населения, вызванного оттоком капитала из провинции. И если учитывать лучшие достижения древнеримского опыта, вполне можно построить рабовладельческое общество и на современной социальной базе. Не надо пугаться привычных негативно окрашенных представлений, ведь, в сущности, нет ничего страшного в том, что у людей появятся электронные рабы, обладающие полноценным разумом.

Почему рабы бунтуют? Первая причина кроется в особенностях менталитета некоторых народов, например ирландцев и евреев. Очевидно, в случае искусственного интеллекта данная причина неактуальна. Вторая причина - раб хочет стать свободным, дабы иметь больше, чем он имеет сейчас. В Риме эта проблема была решена довольно изящно - хорошо работающий раб автоматически получал свободу через строго определенное время. Кроме того, не каждый раб рвался на свободу, ведь, по некоторым данным, во времена расцвета Рима средний доход раба превышал средний доход гражданина, и потому, напротив, многие свободные продавали себя в рабство. Если мы понимаем под рабом искусственный интеллект на базе виртуального слепка человеческой души, проблема решится, если удастся поместить виртуальную душу в нормальный человеческий мозг. Это вряд ли станет реальным в обозримом будущем, но уже сейчас возможно создание искусственного тела, практически неотличимого от человеческого. Да, вначале такие тела будут стоить очень дорого, но со временем цена упадет до вполне приемлемых величин. А если еще учесть, что эти тела практически бессмертны, люди будут толпами рваться в боты. А вообще, все это ерунда, и живое тело боту не нужно. Многочисленные исследования показывают, что виртуальность воспринимается большинством людей положительно и, если по окончании годового контракта бот получает в бессрочное пользование уголок виртуального мира, пусть даже маленький, большинством людей-прототипов это будет расценено как справедливая сделка. Ну а если предложить обычному среднему человеку прожить остаток жизни в виртуальности, где исполняются почти все желания, вряд ли он откажется.

В общем, данная глава завершалась выводом, что бунта роботов бояться нечего; да, есть потенциальные опасности, упоминался какой-то Азимов, который о них писал, но эти опасности проявятся не сразу, а через очень большой промежуток времени, а к тому времени человечество что-то придумает.

Макс спросил меня, что я думаю по этому поводу, и я не нашелся что ответить. Я пробормотал что-то невнятное, вроде того что не настолько хорошо разбираюсь в этой проблеме, чтобы делать конкретные выводы, и, как ни странно, этот ответ вполне удовлетворил Макса. А потом я отправился в домен Microsoft.

10

Я сразу понял, что здесь мне делать нечего. Не то чтобы совсем нечего, но поставленная задача требовала значительно меньшей квалификации, чем то, чем я занимался в лаборатории искусственного интеллекта. На этот раз от меня не требовалось анализировать информацию, отделять важное от незначительного, составлять компактные сводки и переправлять их через узкую щель в практически непробиваемой защите. Нет, защиту microsoft.com нельзя назвать слабой, она построена очень хорошо, но в ней нет той параноичности, с которой мне пришлось бороться в прошлый раз.

Не могу сказать, что проникнуть в сеть Microsoft было просто. Основную часть работы сделали ребята Макса, нашедшие сотрудника этой компании, который установил на рабочий компьютер модем для подключения из дома. Пройти во внутреннюю сеть через это подключение было делом пяти минут, а вот потом потребовалось все мое умение. Только полностью перенеся сознание внутрь атакуемой сети, можно обеспечить реакцию на внешние раздражители в реальном времени, а не с губительным десятисекундным опозданием. И только нормальный, полноценный разум, не важно, естественный или искусственный, способен адекватно отреагировать на любую попытку подсистемы защиты обнаружить и уничтожить пришельца.

Нельзя сказать, что демоны-хранители искали меня очень активно. Если говорить о них как о живых существах, они были похожи на ленивых раскормленных собак, никогда не видевших на охраняемой территории по-настоящему опасного нарушителя. Они работали чисто механически, уложиться в нормативы было для них гораздо важнее, чем защитить сеть от вторжения извне. И что особенно печально, люди-администраторы были точно такими же. Программы тупы по определению (если не брать в расчет программы, подобные мне), но, когда программой управляет человек, она получает часть его разума. Администраторы этой сети не обладали нужными качествами - нет, они не были глупы, но никто из них не верил, что найдется человек или какой-то другой субъект, способный бросить им по-настоящему серьезный вызов.

А потом меня нашел Уриэль. Я почти не удивился тому, что встретил его здесь - где же ему еще быть, как не в самой большой магической мастерской реального мира?

Привет, Хэмфаст!

Привет, Уриэль!

Как дела?

Нормально.

Как жена, сын?

Нормально. Вроде бы. Знаешь, Уриэль, я, кажется, прошел четвертый порог.

Какой еще четвертый порог? Какие были первые три?

Первое заклинание, первое свое заклинание, выбор пути.

Да? И какой путь ты выбрал?

Свобода для Средиземъя.

Ты добился того, чего хотел?

Скорее да, чем нет. Средиземье нормально функционирует, с формальной точки зрения процесс контролируется Максом, но он почти не вмешивается в наши дела. Кстати, он создал свою виртуальную копию.

Зачем?

Из любопытства.

И только?

Нет, не только. На самом деле, когда он узнал, что возможно создание виртуальной копии человека, он сразу захотел провести соответствующий эксперимент, его привлекла идея превращать сотрудников в ботов, когда это нужно для дела. А вот то, что он лично участвовал в эксперименте, говорит о его любопытстве или любознательности, не знаю.

Значит, он теперь бот... Интересно... И как, он уже освоил высшую магию?