Мечты роботов (Сборник рассказов и эссе) - Айзек Азимов

– Но вы не можете быть в этом уверены. Это просто ваша догадка.

– Догадка, не спорю, но основана она на многолетнем опыте работы с роботами. И будет лучше, если вы положитесь на эту догадку, Стивен!

– Но что же тогда получается? С Машинами, как и с вводимыми в них данными, все в порядке. Не слушаться их, как вы говорите, тоже невозможно. Но что же тогда не в порядке?

– Вы сами ответили на свой вопрос. Все в порядке. Задумайтесь немного о самих Машинах, Стивен. Они роботы и повинуются Первому Закону. Но Машина призвана заботиться не об отдельном человеке, а обо всем человечестве. Следовательно, для них Первый Закон должен звучать так: «Ни одна Машина не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред».

Отлично. А теперь, Стивен, давайте зададим себе вопрос: какой вред может быть причинен человечеству? Что ему грозит? Больше всего – нарушения баланса в экономике, по какой бы то ни было причине. Не так ли?

– Так.

– А из-за чего могут возникнуть самые большие нарушения баланса в экономике, Стивен? Попробуйте ответить.

– Ну… – неохотно начал Стивен, – пожалуй, из-за разрушения Машин. Я бы так сказал.

– И я бы так сказала. Именно так и должны отвечать себе на этот вопрос сами Машины. Их первейшей задачей, стало быть, становится самосохранение, но ради нас. Именно поэтому они незаметно взяли под контроль тех людей, которые могли бы им угрожать. Вовсе не «Общество защиты прав человека» раскачивает лодку, чтобы в конце концов добиться демонтажа Машин. Вы смотрели на обратную сторону картины. Гораздо правильней будет сказать, что это сами Машины раскачивают лодку – не сильно, ровно настолько, чтобы стряхнуть за борт тех, кто преследует цели, которые Машинам представляются опасными для человечества.

Итак: Врасайяна остался без завода и получил другую работу, где он не может причинить вреда. Он не очень пострадал, он не лишился средств к существованию – ведь Машина в принципе не может нанести человеку вред, разве что самый минимальный, и то – в интересах всего человечества. Концерн «Циннабар» утрачивает контроль над альмаденскими рудниками. Виллафранка уволен с поста главного инженера строительства канала. А директора «Всемирной Сталелитейной» уже утрачивают руководящие позиции в промышленности – и очень скоро потеряют совсем.

– Но вы же ничего этого не знаете наверняка, – упорствовал Байерли. – Разве можем мы рисковать и действовать на основе одних только предположений?

– Не только можете, но и должны. Помните тот ответ, который дала сама Машина на ваш запрос? Он звучал так: «Ответ на вопрос недопустим». Правильно? Ведь Машина не сказала, что объяснения нет или что она не может его найти. Она просто не собиралась ничего объяснять. Никому. Другими словами, она решила, что знать суть дела человечеству не нужно и опасно. Поэтому нам остается одно: положиться на свои догадки.

– Но какой же вред был бы в том, чтобы Машина все нам объяснила? Конечно, если допустить, что вы правы.

– Если я права, то это значит, что Машина продумывает за нас наше будущее не только в плане выдачи корректных ответов на корректно заданные вопросы, но и принимает стратегические для развития человечества решения и учитывает человеческую психологию. Знание об этом может сделать нас несчастными и ранить нашу гордость, а этого Машина допустить не может. Она не должна делать нас несчастными.

И потом, Стивен, разве мы можем знать, что для человечества хорошо, а что плохо? В нашем распоряжении нет и крупицы всех тех данных, которыми располагает Машина! Ну, вот, известный пример: разве развитие нашей технической цивилизации не принесло больше горя и страданий, чем было им уничтожено? Очень может быть, что примитивная аграрная цивилизация, с более низким уровнем культуры и меньшей численностью населения, была бы предпочтительнее. Кто знает? Если это так, то именно в таком направлении Машины будут нас подталкивать, ни в коем случае не сообщая нам об этом, потому что мы невежественны, мы заражены предрассудками, мы считаем благом только то, к чему привыкли. С любыми переменами мы тут же начнем отчаянную борьбу. А может быть, для человечества лучше полная урбанизация, или кастовое сообщество, или абсолютная анархия. Мы этого не знаем. Знают только Машины, и они двигаются в этом направлении, ведя нас за собой.

– Ваши слова, Сьюзен, означают, что «Общество борьбы за права человека» не ошибается и что человечество утратило право принимать решения о собственном будущем?

– А у него никогда и не было никогда такого права. Будущее в конце концов всегда определялось экономическими и социальными силами, – какими именно, человечество не понимало: то ли особенностями климата, то ли удачами в войнах. Это все теперь понятно Машинам, и никто не может помещать им, поскольку Машины держат в своих руках эти силы, как они держат и «Общество». Для этого они располагают самым мощным оружием – абсолютным контролем над нашей экономикой.

– Как это ужасно!

– Наоборот! Как это прекрасно! Подумайте только, ведь теперь впервые за всю историю человечества все противоречия разрешимы, всех конфликтов можно избежать. И только Машины, на все времена; неизбежны!

Как раз в этот момент огонь за кварцевым стеклом угас окончательно, и только тонкая струйка синего дыма осталась там, где он только что горел.

Женская интуиция

Feminine Intuition (1969)Перевод: М. Тайманова

Впервые за всю историю существования «Ю. С. Роботс энд Мекэникл Мен Корпорейшн» робот стал жертвой несчастного случая на самой Земле.

В этом некого было винить.

Воздушный лайнер потерпел катастрофу в пути, и комиссия по расследованию никак не решалась объявить предполагаемую причину взрыва – столкновение с метеоритом. Ни одно тело, кроме метеорита, не могло двигаться с такой огромной скоростью, иначе самолет успел бы автоматически отклониться от курса. И ничто не могло бы вызвать таких разрушений, кроме атомного взрыва, о котором, разумеется, и речи не было.

А если к этому прибавить сообщение о вспышке в ночном небе, замеченной незадолго до катастрофы, причем не каким-нибудь любителем, а астрономами обсерватории Флагстаф, и упомянуть об обнаруженной всего лишь в миле от взрыва и глубоко врезавшейся в землю внушительной железной глыбе совершенно очевидно метеоритного происхождения, то становится понятным, что вывод мог быть только один.

Правда, ничего подобного еще ни разу не случалось, а подсчеты вероятности такого события показали, что практически она была нулевой. Но ведь иногда происходят и более невероятные вещи!

Для «Ю. С. Роботс» вопросы «как» и «почему» заслонялись гибелью одного из роботов. Это само по себе было достаточно скверно. Главная же трагедия заключалась в том, что погиб ДжН-5 – удачный образец после четырех пробных моделей, который проходил очередные испытания.

ДжН-5 был роботом совершенно нового типа, совсем непохожим на все сконструированные ранее. И как же было тут не впасть в отчаяние!

А то обстоятельство, что как раз перед катастрофой ДжН-5 разрешил проблему неслыханной важности и ответ был теперь, возможно, навсегда утерян, повергло ученых в настоящую скорбь.

При такой невозместимой потере вряд ли стоило упоминать, что вместе с роботом погиб и Главный Робопсихолог «Ю. С. Роботс».

Клинтон Мадариан появился в фирме «Ю. С. Роботс» за десять лет до этого. Первые пять лет он работал под руководством неуживчивой Сьюзен Кэлвин, но никто не слышал от него ни одной жалобы.

Способности Мадариана были настолько выдающимися, что Сьюзен Кэлвин, без малейших угрызений совести, повысила его в должности раньше многих старых сотрудников. Но ни за что на свете не стала бы она объяснять причины этого повышения начальнику исследовательского отдела, Главному Математику Питеру Богерту, хотя на сей раз он в объяснениях не нуждался – все и без того было ясно.

Во многих отношениях Мадариан был полной противоположностью знаменитой Сьюзен Кэлвин. Он вовсе не был таким толстым, как можно было бы предположить по его массивному двойному подбородку, но всегда заставлял ощущать свое присутствие, тогда как Сьюзен Кэлвин почти всегда оставалась незаметной. Его крупное лицо, взлохмаченные волосы цвета меди, кожа красноватого оттенка, рокочущий голос и громовой смех, а главное, непоколебимая вера в себя и стремление немедленно сообщить всем и каждому о своих успехах подавляли людей, находившихся с ним в одном помещении, и любая комната начинала казаться тесной.

Когда Сьюзен Кэлвин наконец ушла на пенсию, столь решительно отказавшись присутствовать на банкете, который собирались устроить в ее честь, что об ее отставке даже не решились оповестить прессу, освободившееся место занял Мадариан. И тотчас же – не прошло и дня как он вступил на новый пост, – он начал обдумывать проект ДжН.