Город Перестановок - Грег Иган

Постепенно технологии отображения улучшались и к 2020 году достигли уровня, когда стало возможным картирование отдельных нейронов; были измерены свойства отдельных синапсов, и всё это без хирургического проникновения в организм. Сочетая возможности разных сканеров, каждую деталь мозга, имеющую значение для психологии индивида, считывали с живого органа и могли воспроизвести на достаточно мощном компьютере.

Поначалу моделировали отдельные нервные пути: зрительные участки неокортекса, интересующие разработчиков систем машинного зрения, или отделы лимбической системы, роль которых оставалась под вопросом. Эти частичные модели принесли ценные результаты, но лишь абсолютно функциональное полное воспроизведение всего мозга, помещённого в целиком воспроизведённое тело, позволило бы тестировать самые тонкие достижения нейрохирургии и психофармакологии. Прошло, однако, несколько лет, прежде чем кто-либо попытался создать такую модель. Отчасти из-за беспокойства (редко высказываемого вслух) о перспективах, которые могли открыться вследствие этого. Формально ничто этому не препятствовало: законодательные органы и отраслевые комитеты по этике занимались лишь интересами людей и животных, и ни в одну лабораторию ещё не швыряли зажигательных бомб активисты движения против бесчеловечного обращения с физиологическими программами. Но всё же кому-то предстояло первым нарушить негласное табу.

Кому-то предстояло создать детальную Копию целостного мозга, дать ей очнуться и заговорить.

В 2024 году Джон Вайнс, нейрохирург из Бостона, запустил полную сознательную Копию самого себя, находящуюся в примитивной виртуальной реальности. Первые слова первой Копии заняли чуть менее трёх часов реального времени (ускоренный пульс, гипервентиляция, содержание гормонов стресса в крови повышено), и слова эти были: «Это всё равно, что оказаться похороненным заживо. Я изменил решение. Уберите меня отсюда».

Оригинал послушно выключил его, но впоследствии повторил демонстрацию несколько раз без малейших вариаций, рассудив, что нельзя причинить новые страдания лишним прогоном одной и той же симуляции.

К тому моменту, как Вайнс обнародовал свои результаты, перспективы развития нейрологических исследований не стоили и упоминания; через двадцать четыре часа, невзирая на обескураживающее заявление первой Копии, все заголовки кричали о бессмертии, массовом переселении в виртуальную реальность и близящемся опустении физического мира.

Полу в то время было двадцать четыре года, и он представления не имел, куда себя девать. Отец умер год назад, оставив ему скромную деловую империю, построенную вокруг процветающей сети розничных магазинов, к управлению которой Пол не питал ни малейшего интереса. Семь лет он потратил на путешествия и учёбу: естественные науки, история, философия, – вполне сносно преуспевая во всём, за что брался, но так и не обнаружив ничего, зародившего бы в нём настоящую интеллектуальную страсть. Бороться за обеспеченность не приходилось, и он потихоньку погружался в состояние мечтательного умиротворения.

Известие о Копии Джона Вайнса взорвало его безразличие. Будто все технологии с сомнительными перспективами, сулившие преображение человеческой жизни, осуществились враз, да ещё с избытком. Долгая жизнь станет лишь началом, Копии смогут эволюционировать путями, почти недоступными для органических существ: изменять своё мышление, определять новые цели, бесконечно преображать самих себя. Возможности опьяняли – несмотря на постепенное проявление издержек и недостатков первоначальных версий, несмотря на неизбежное сопротивление общества. Пол, дитя нового тысячелетия, был готов принять всё и разом.

Но чем больше времени он проводил, обдумывая сделанное Вайнсом, тем более странными представлялись выводы.

Дискуссии в обществе, порождённые экспериментом, оказались горячими, но удручающе поверхностными. Вновь бушевали длившиеся десятилетиями старые споры о том, много ли общего компьютерная программа может иметь с человеком (с точки зрения психологии, морали, метафизики, теории информации…) и даже могут ли Копии считаться мыслящими и сознающими себя «на самом деле». По мере того как другие исследователи воспроизводили эксперимент Вайнса, их Копии вскоре начали проходить тест Тьюринга: ни одна группа специалистов, проводившая опрос группы людей и Копий (по видеосвязи с замедлением, чтобы замаскировать разницу в восприятии времени), не смогла распознать, кто из них кто. Однако некоторые философы и психологи продолжали настаивать, что это демонстрирует лишь «симуляцию сознания», а Копии – просто программы, способные детально изобразить внутреннюю жизнь, в действительности не существующую.

Сторонники гипотезы «сильного искусственного интеллекта» настаивали, что сознание – функция определённых алгоритмов, результат конкретных способов обработки информации, независимо от того, какая машина или орган использованы для выполнения этой задачи. Компьютерная модель, манипулирующая данными о самой себе и своём «окружении» точно так же, по сути, как и органический мозг, неизбежно приобретёт те же ментальные свойства. «Симуляция сознания» – такой же оксюморон, как «симуляция арифметики».

Противники возражали, что от моделируемой грозы ещё никто не промок. Моделируемая ядерная электростанция не вырабатывает ни ватта энергии. Модели пищеварения и метаболизма не потребляют питательных веществ – ничего на самом деле не переваривается. Так откуда уверенность, что в модели человеческого мозга должны возникнуть настоящие мысли? Возможно, компьютер, в котором функционирует Копия, и способен генерировать достоверное описание поведения человека в произвольном гипотетическом сценарии. Может даже показаться, будто он поддерживает разговор, поскольку верно предсказывает, что сказал бы человек в аналогичной ситуации. Однако едва ли сама машина при этом что-то осознаёт.

Пол быстро решил, что весь этот спор лишь рассеивает внимание. Доказать с полной достоверностью наличие разума у Копии хоть одному человеку невозможно. Для Копии же оно и так очевидно: cogito ergo sum. Дискуссия окончена.

Для людей же, готовых допустить наличие разума у Копий на основе тех же логических рассуждений, каковые заставляли предполагать его у собратьев по виду, – и для Копий, готовых ответить им тем же, – суть дела заключалась совсем в другом.

Были кое-какие вопросы о природе этого общего качества, которые появление Копий высветили резче, нежели что бы то ни было ранее. Вопросы, которые требовалось исследовать, прежде чем человеческая раса сможет с уверенностью передать свои воспоминания, свою культуру, цели и сущность наследникам.