Русская эсхатология: история общественной мысли России в фокусе апокалиптики - Сергей Иванович Реснянский
Шрифт:
Интервал:
Закладка:
Среди них – знаменитый британский физик, теоретик и космолог Стивен Хокинг. Более авторитетную фигуру в экспертной оценке перспектив искусственного интеллекта трудно отыскать[438]. Хокинг недвусмысленно указывал на угрозу, исходящую от машин, для человека, говорил о проигрыше человечества в конкурентной борьбе с роботами. «Появление полноценного искусственного интеллекта может стать концом человеческой расы»[439]. «Такой разум возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем»[440]. Хокинг во втором из представленных высказываний говорит не только о факте конкуренции, но и о механизме, обеспечивающем победу роботов – о способности к самосовершенствованию, осуществляемому с большой скоростью. Значит, по мнению знаменитого физика и в противоречии с позицией скептиков, машина способна саморазвиваться.
Хокинг, исходя из обнаруживаемых угроз, стал одним из инициаторов подписания принципов развития искусственного интеллекта, состоявшегося в 2017 году, за год до смерти великого физика. Подписание, к которому были привлечены многие известные ученые и руководители профильных компаний, состоялось в Азиломаре, США, по результатам работы конференции исследователей и разработчиков в сфере искусственного интеллекта. В дальнейшем круг подписантов расширялся, превысив уже три с половиной тысячи специалистов из разных стран мира. Отдельную группу составили в принятом документе нравственные вопросы развития искусственного интеллекта, что являлось важной фиксацией значимости темы нравственности в дальнейшем техническом прогрессе. Из 23 сформулированных принципов развития искусственного интеллекта особого внимания в контексте рассматриваемой темы заслуживают следующие позиции:
«10. Согласование ценностей. Высокоавтономные системы ИИ должны проектироваться так, чтобы их цели и поведение согласовывались с человеческими ценностями во всех аспектах их работы.
11. Человеческие ценности. Системы ИИ должны проектироваться и управляться так, чтобы быть совместимыми с идеалами человеческого достоинства, прав, свобод и культурного разнообразия…
22. Рекурсивное самоулучшение. Системы ИИ спроектированные для рекурсивного самоулучшения или самовоспроизведения так, что это может привести к быстрому росту качества или количества, должны быть предметом строгих мер безопасности и контроля.
23. Общее благо. Сильный искусственный интеллект должен разрабатываться только во имя служения широко разделяемым этическим идеалам и во благо всего человечества, а не одного государства или организации»[441].
Наиболее резонансные высказывания последних лет об угрозах, продуцируемых развитием искусственного интеллекта, принадлежат Илону Маску. Искусственный интеллект, предостерегает Маск, есть «самый большой риск, с которым мы сталкиваемся как цивилизация»[442]. И эта оценка принадлежит человеку, деятельность которого находится в авангарде внедрения технологий, сопряженных с перспективой появления искусственного интеллекта.
Предупреждения Маска по яркости создаваемых образов надвигающейся для человека катастрофы звучат как апокалиптические пророчества, но большинством они не воспринимаются всерьез.
«Наименее страшное будущее, о котором я могу думать, – это то, в котором мы по крайней мере демократизировали искусственный интеллект, потому что если одна компания или небольшая группа людей сумеют развить богоподобный цифровой суперинтеллект, они смогут захватить мир»[443].
«Всех, даже самых злобных и отвратительных диктаторов, объединяло одно – они были смертными. Однако для ИИ вообще не будет существовать такого понятия, как смерть. Он сможет существовать вечно. От такого зла людям некуда будет спрятаться»[444].
«Если у искусственного интеллекта есть цель, а человечество просто оказывается на пути, он уничтожит человечество, как нечто само собой разумеющееся, даже не задумываясь об этом. Это похоже на то, как мы строим дорогу и по пути попадается муравейник. Мы ведь не ненавидим муравьев, мы просто строим дорогу. Итак, до свидания, муравейник»[445].
«Мы стремительно продвигаемся к созданию цифрового суперинтеллекта, который намного превосходит любого человека, я думаю, что это довольно очевидно. У нас есть лет пять»[446].
Особое напряжение по сей день вызывает перспектива появления искусственного разума с позиций религии. И основания для опасения, надо признать, действительно существуют. В США известным инженером машин самостоятельного вождения Энтони Левандовски была некоторое время назад зарегистрирована религиозная организация «Путь в будущее». Ее цель провозглашалась в следующем: «Развивать и продвигать реализацию Божества, основанного на искусственном интеллекте». Левандовски давал пояснение: «То, что мы планируем создать, фактически будет богом. Но не тем богом, что вызывает ураганы и молнии. Представьте себе сущность, которая будет в миллиарды раз мудрее самого умного человека. Как еще ее можно назвать, если не богом?»[447] То, о чем предупреждали религиозные мыслители, – провозглашение искусственного интеллекта Богом – стало реальностью. Можно, конечно, сказать, что это религиозный фанатизм. Но обратимся к рассуждениям на этот счет Илона Маска: «Я все больше склонен считать, что необходимо задуматься о регулировании этого вопроса на государственном и международном уровне. Это даст нам уверенность в том, что мы не совершаем ужасную ошибку. Создавая искусственный интеллект, мы фактически призываем демона. Вы знаете эти истории, в которых герои со святой водой наготове изображают пентаграмму и вызывают демона. Да, они уверены, что смогут его контролировать, но это не так»[448].
Прислушаться к религиозным лидерам необходимо. О чем же они предупреждают? Патриарх Кирилл: «Слышатся голоса, что современные технологии способны создавать искусственный интеллект и искусственные органы, что скоро удастся так модернизировать наш разум и тело, что возникнут новые существа. Вера в технологии сегодня – то же, чем была вера в прогресс, это своеобразная квазирелигия»[449]. Архиепископ Палья, президент Папской академии жизни: «Риск в том, что мы забываем, что мы существа, а не создатели»[450]. Далай-лама XIV: «Некоторые ученые говорили, что современные технологии могут создать искусственный интеллект, новое живое существо, новое сознание. Я в этом сомневаюсь. Считаю, что технологии не могут тягаться с человеческим умом. Потому что человеческий ум, сознание сложнее современных технологий, и в конечном итоге технологии зависят от сознания, они в руках человека»[451]. Духовные лидеры человечества, представляющие разные конфессии, солидарны в позиции, что нельзя превращать технологии в культ, нельзя подчинять человека искусственному интеллекту, нельзя преступить грань между человеком и машиной. Но все это не означает запрета на технологии и развитие.
Футурологическое безумие периода пандемии
Еще сравнительно недавно рассуждения о будущем мало кого волновали. Футурологи воспринимались кем-то вроде «городских сумасшедших». Если о будущем и шла речь, то лишь в пролонгации
