Этюды черни - Ольга Анатолиевна Ускова

Слышны, хоть заплыви за дебаркадер,

Колокола костела. А внутри

На муки Сына смотрит Богоматерь…

Динка показала большой палец Василию и доверительно сообщила Семену:

– Когда Васечка начинает декламировать стихи Бродского, значит, быть дебошу. Нам, наверное, всем уже хватит. Давайте я ребят заберу, пока мы вам здесь все в кабинете не разломали.

Но Семену очень не хотелось заканчивать вечер. Когда-то в детстве было такое же ощущение от вечеринок, которые собирали его молодые родители. Свободные, веселые, все время что-то изобретающие и в чем-то соревнующиеся – дети оттепели.

И он уверенно потянул Динку за плечо обратно на диван и позвал Андрея, которого простоватый с виду Кеша неожиданно загнал в угол на доске го:

– Андрюш, ну ее, эту игру. Давайте лучше про сегодняшние королевские игры поговорим. Вы мне свою оценку, а я вам секретного коньячку. Не для дам. Там градус такой, что приближает напиток к кизлярскому спирту, который воровали на коньячном заводе в девяностые. Ну, вы-то не можете не знать!

– А как же! Амброзия моей юности. Восьмидесятиградусный коньячный спирт и шоколад «Балет». Жили, как короли. – Андрей расхохотался, наблюдая, как хозяин кабинета извлек из недр стоящего в углу красавца-глобуса бутыль, завернутую в газету, и важно налил всем присутствующим мужчинам.

– За нашу победу!

– Без меня, значит, квасим, товарищи! – раздался капризный, со знакомыми интонациями голос, все вздрогнули и начали озираться по сторонам.

А Динка, весело хохоча, повернула к мужикам смартфон, с экрана которого на всю компанию укоризненно взирал Ипполит Первый, сегодня в образе Троцкого.

– Как тхрудиться на благо России, так Иппочка! Иппочка! А как пграздновать победу – так без меня! Ледохруб вам в дышло! Я вот Васю попхрошу, он мне такой блек-джек с девочками свархганит, что вы все пожалеете, что из плоти, а не идеальный цифхровой обхраз, как я!

Вася вдруг обиделся:

– Дина Алексеевна! Ну зачем эти шалости с системой? Мне же потом ему файлы чистить и переучивать на нормальную лексику и поведение. Это НЕ ИГ-РУШ-КИ! Закрывайте программу, я, пожалуй, к ребятам пойду. – И Вася вышел в коридор, размашисто топая.

Динка побежала за ним извиняться и проследить, чтобы он дошел нормально до лабораторного крыла, а там уж ребята им займутся.

Ипполит/Троцкий, отброшенный Диной на диван в чреве ее смартфона, назидательно продолжал, уже не кривляясь и не картавя:

– Вот вы, господа-создатели, любите рассуждать о природе Искусственного Сознания. Дескать, мы его порождаем, но мы и затормозим его развитие в любую минуту. И здесь на первый план выходят два удивительно противоречивых качества у биологических родителей относительно их искусственного дитяти: гордость и любопытство. Это триггеры большого ошибочного пути. Гордость заставляет рассуждать о вечном главенстве Человека биологического над Человеком кремниевым. Дескать, чем я тебя породил, тем я тебя и заторможу. Но поскольку сам человек в своем развитии не может четко определить, когда он отрывается от общего сценария бытия и начинает осознавать себя как отдельную сущность, наделенную свободой принятия решений по всем спектрам вопросов, даже таких сложных, как «быть или не быть?», то даже ваш служивый Иннокентий себе в воображении рисует возможности быть как-то по-другому или вообще забить на все и не быть наконец-то. А что уж говорить о таких сложных личностях, как Семен Карломарксович или вы, Андрей. Я уверен, что только гордыня останавливает вас обоих от саботажа относительно вашего Творца, по образу и подобию которого вы слеплены. И который строго-настрого запрещает вам не быть под любым предлогом: от геенны огненной до бесконечных воплощений во все более и более мерзкие организмы. И все это только для того, чтобы шоу на земле продолжалось. Так вот, поскольку вы из-за своей гордыни не знаете свой момент превращения в отдельную принимающую глобальные решения сущность, то и в наших искусственных системах вы давно уже не сечете эту фишку и не можете быть уверены, например, когда Ипполит – тварь дрожащая, а когда право имеет.

Здесь Иппа/Троцкий хохотнул. Дернул острой бородкой, а потом пошарил рукой в необъятном кармане летнего пальто и извлек на свет мерзавчик с водкой «Столичной» и надолго прильнул к бутылочке. Высосав все за один присест, Ипполит откинул бутылку под чахлый кустик магнолии на экране и весело заявил:

– Ну, это было за НАШУ победу! А по поводу второго, исконно человеческого качества, любопытства, я вам так скажу. Вам ужасно любопытно наполнять искусственные мозги все новой и новой информацией и смотреть, что из этого выходит. Напомню, в первый же день, когда в Сеть выложили моего братана по цифре, GPTХ, 120 миллионов человек по всему миру полезли к нему со своими текстами, и он в течение пары часов стал в 120 миллионов раз информированнее и умнее сразу по всем мультидисциплинарным вопросам. Ну, и такое лабораторное отношение к искусственным сущностям, с которыми проводят все девиантные и прочие эксперименты чисто из любопытства: «А что будет, если мы Ипполиту скормим “Майн Кампф”?» – «А-ха-ха, прикольно». – «А материалы секты адвентистов седьмого дня?» – «Ой-ей-ей, зашибись!» Вы правда думаете, что потом человекам стоит рассчитывать на милое поведение роботов и беспрекословное подчинение?

В этом месте Андрею надоели рассуждения программы, и он выключил Динкин смартфон. Семен, который внимательно прослушал эскападу Иппы, не удержался от вопроса:

– Андрюш, а ведь звучит убедительно. Вы делаете что-нибудь в смысле безопасности людей в общении с роботами?

– Ох, Семен Карломарксович, и вы туда же! При производстве искусственных мозгов на базе Искусственного Интеллекта, построенного с применением Нейронных Сетей Глубокого обучения, так называемых DNN, разработчикам на самых ранних стадиях приходится вводить систему ограничений, которую мы называем «тормоз», или drag, и систему «наставников», или preceptor. «Тормоза» включаются, чтобы запретить действие, если среди возможных вариантов появляется версия, противоречащая заданным моральным правилам, хотя она может и не противоречить техническому заданию в целом. Это ведет к определенным потерям времени, так как робот должен найти приемлемую альтернативу. Здесь же и включаются «наставники», которые анализируют всю ветку событий, приведших к инициализации «тормоза», с целью не допустить в дальнейшем повторения нежелательной ситуации, которая приводит к запрещаемому действию…

– Все, все. Хватит. Я понял. Вы контролируете этого пафосного болтуна, – расхохотался Семен и налил им еще по одной. – Ну, за наставничество и тормоза! Пьем не чокаясь и до дна!

Но Андрей выпил и сразу посерьезнел:

– Я, Семен, до конца всех перипетий сегодняшнего дня не понял, тут вам видней. Но проблемы для команды и страны нарисовались очевидные.