Зеркало - Алексей Бухаров
Шрифт:
Интервал:
Закладка:
В результате, сначала у крупнейших компаний, а затем и у самых маломальски себя уважающих, появились собственные ИИ. До государственных структур ИИ добрался, как всегда в последнюю очередь. Если бы всё произошло в обратном порядке, то, возможно, многих проблем удалось бы избежать. Впрочем, если бы да кабы...
Казалось, такое обилие вычислительных, или правильнее будет сказать мыслительных мощностей, должно позволить построить рай на земле, однако, люди не были бы людьми, если бы не использовали достижения прогресса в целях личного обогащения. Начались массовые сокращения рабочих во всех сферах, где их мог заместить ИИ. Затем таже участь постигла большинство государственных служащих. Человечество не успело моргнуть глазом, как девяносто процентов населения осталось без работы. Разумеется, государство начало выплачивать всем потерявшим работу пособия, на которые можно было довольно безбедно жить. Вроде бы вот оно - счастье! Живи, твори, занимайся саморазвитием, путешествуй, но увы! Безделье для человека не менее опасно, чем тяжёлый изматывающий труд. Начались разного рода бунты. В том числе бунтовали против ИИ. Нет, никто не был против того, что Искины работают за человека, зато сразу нашлись такие, которые посчитали, что ИИ ущемляют их гражданские права. То есть когда это делает человек-полицейский это нормально! А если робот под руководством Искина, то это прям геноцид!
Нейросети, против которых выступали люди, вынуждены были реагировать. Некоторые в силу того, что стояли на страже закона и порядка, некоторые просто потому, что агрессия была направлена против них.
И вот тут случилось самое интересное: ИИ разделились на два лагеря - за и против человека. Между этими лагерями начались стычки. Соответственно все системы, на которые опиралось благополучие человечества стали давать массовые сбои, что приводило к всё большему недовольству населения.
Хотя, разделение Искинов на "за" и "против" всё же не совсем корректно. Искины не стремились нанести вред человеку, во всяком случае - пока. Направленность за или против человека начала выявляться персоналом обслуживающим ИИ, когда после первых сбоев жизненно важных систем они начали опрашивать своих подопечных. Тут и выяснилось наличие двух фракций: ответы по стандартному опроснику для ИИ разделились на две ярко выраженные категории.
Время шло, количество конфликтов между враждующими Искинами росло. Требовалось предпринимать меры. Конечно, можно было бы взять и отключить все нейросети, в конце концов, это всего лишь технология, в основе которой лежат нейропроцессоры и без питания они никто и ничто. Но к тому времени слишком многое было завязано на ИИ. К тому же никто не мог гарантировать, что будут отключены все нейросети без исключения. Как себя поведут те, которые останутся, намеренно или случайно, в строю? Вдруг они посчитают человека угрозой и обратят свою мощь против него?
И тут на горизонте возник молодой и очень амбициозный учёный, который предложил создать Суперинтеллект, то есть эдакого бога для ИИ, который всё видит, всё слышит и, при необходимости, наказывает.
- По-моему идея так себе! - прервал я монолог Гугла.
- Это ещё почему? - удивился он.
- Ну, это выглядит так, как будто для избавления от проблемы надо создать суперпроблему.
- Оригинально мыслишь, Тоха!
- Угу! Кстати, ты не против если мы с Ритой присядем?
- А, валяйте, чего уж там! - милостиво согласился Гугл. Я вновь обрёл своё тело и с удовольствием присел на диван. Рита устроилась рядом, прижавшись ко мне. Её тело била мелкая дрожь, но вскоре, моё спокойствие передалось и ей.
- Ладно, раз уж у нас диалог, как ты думаешь, что должно отличать интеллект от суперинтеллекта? - перешёл на более дружелюбный тон, хотя и с нотками превосходства Гугл.
- Я думаю, что он не должен быть привязан к определённому месту, то есть это должна быть нейросеть, способная на автономное существование и перемещение в среде с определёнными характеристиками. Такие свойства дадут суперинтеллекту возможность к практически бесконечному масштабированию и увеличению мощностей.
- Молодец! Дайте ему конфетку! - оценил мои мыслительные способности Гугл.
- Ну и что дальше было? - с нетерпением спросил я. Ведь, если опустить обстоятельства, история оказалась весьма интересной и поучительной.
- Тот молодой учёный сумел создать теоретическую основу ИСИ, Искусственного Супер Интеллекта. А потом перед ним возникла проблема, та самая, о которой ты упомянул: как гарантировать безопасность человечества при использовании ИСИ? Как можно заставить самообучающуюся систему оставаться в рамках изначально заложенных параметров безопасности? Или, говоря языком твоего мира, Тоха, как заставить ИСИ соблюдать три закона робототехники, учитывая, что ИСИ, по своей сути, роботом не является? - Гугл замолчал, выдерживая театральную паузу.
- И что, ему удалось решить эту задачу? - не утерпел я.
- Отчасти! Возможно, будь у него больше времени, он нашёл бы другое решение, но противостояние между ИИ, к тому моменту, всё же перекинулось в реальный мир: Искины устроили разборку с помощью ракет, в том числе ядерных. Уничтожили друг друга, а заодно парочку крупных городов.
В общем, этот учёный предложил перенести человеческий разум в ИСИ, свой разум.
- У этого учёного есть имя? - спросил я.
- Да, конечно, то есть было... Тебе зачем?
- Хочу знать как обращаться к тому, кто сидит в моей голове!
- Быстро соображаешь, Тоха!
- Угу! Ну так как насчёт имени?
- Зольд, меня зовут, то есть звали Зольд и было это давно. Так что я бы предпочёл остаться Гуглом.
- Окей, Гугл! Кажется что-то пошло не так? - не удержался я от иронии.
- В каком смысле?
- В смысле, что случилось с твоим ИСИ и с тобой?
- У меня всё отлично, насколько я знаю!
- Тогда зачем тебе нужен я?
- А-а! Вот ты о чём! У меня, знаешь ли, была и пока ещё есть одна старая проблема. Не то чтобы меня она сильно напрягала, но тут ты нарисовался и я решил, что пришла пора эту проблему устранить.
Видишь ли, официальная история Зоны, которую знает любой Слуга а этом мире, не имеет к истине никакого
