На краю пропасти. Экзистенциальный риск и будущее человечества - Тоби Орд

За десять лет, прошедших после бомбардировки Хиросимы, Рассел и Эйнштейн написали по несколько важных сочинений о ядерной войне, в которых упоминали о риске вымирания человечества. Их совместный манифест стал кульминацией этого раннего периода философских размышлений на тему экзистенциального риска.

Hilbrand J. Groenewold (1968). ‘Modern Science and Social Responsibility’.

Очень ранняя работа, в которой автор предвосхитил формирование нескольких ключевых идей об экзистенциальном риске. Работа не дошла до широкой аудитории, и эти идеи оставались в безвестности, пока не были открыты независимо несколько десятков лет спустя.

Annette Baier (1981). ‘The Rights of Past and Future Persons’.

Основополагающая работа о важности будущих поколений.

Jonathan Schell (1982). The Fate of the Earth.

Первый глубокий анализ, в котором подчеркивается, насколько проблематично грозящее нам вымирание и насколько важно обеспечить выживание человечества. Книга полна остроумных философских прозрений.

Carl Sagan (1983). ‘Nuclear War and Climatic Catastrophe: Some Policy Implications’.

Прорывная статья, в которой описывается только что открытый механизм ядерной зимы и анализируются этические последствия вымирания человечества.

Derek Parfit (1984). Reasons and Persons.

Эта книга входит в число самых знаменитых философских сочинений XX века и внесла большой вклад в этику будущих поколений. В заключительной главе подчеркивается, как и почему риск вымирания человечества может быть одной из важнейших моральных проблем наших дней.

John Leslie (1996). The End of the World: The Science and Ethics of Human Extinction.

Знаковая книга, которая расширила рамки дискуссии, включив в нее не только ядерный риск, но и все риски вымирания человечества. В ней каталогизируются угрозы и анализируются новые философские ракурсы.

Nick Bostrom (2002). ‘Existential Risks: Analyzing Human Extinction Scenarios’.

В этой работе дается определение экзистенциального риска и вводятся многие из важнейших идей, связанных с ним. Но она интересна главным образом в историческом плане, поскольку позднее, в 2013 году, ее заменила его же статья, упомянутая ниже.

Nick Bostrom (2003). ‘Astronomical Waste: The Opportunity Cost of Delayed Technological Development’.

В работе рассматриваются пределы, которых люди смогут достигнуть в будущем, и подчеркивается невероятная важность хотя бы минимального ускорения прихода человечества в конечное состояние, но даже эта цель меркнет в сравнении с тем, насколько важно повысить вероятность, что человечество вообще придет в это состояние.

Nick Bostrom (2013). ‘Existential Risk Prevention as Global Priority’.

Обновленная версия эссе, написанного автором в 2002 году, и одна из лучших статей по экзистенциальному риску.

Nick Beckstead (2013). On the Overwhelming Importance of Shaping the Far Future.

Целая книга философских рассуждений о том, что важнее всего в наших действиях не немедленные последствия, а то, какое влияние они оказывают на определение пути человечества в долгосрочной перспективе.

David Christian (2004). Maps of Time: An Introduction to Big History.

Новаторская книга по “большой истории”: в ней изучаются основные темы и сдвиги в нашей Вселенной со времен Большого взрыва, зарождения жизни, появления человечества, становления цивилизации, промышленной революции до текущего дня.

Fred Adams & Gregory Laughlin (1999). The Five Ages of the Universe.

Авторитетное и доступное изложение представлений ученых о том, что ждет нас в самом долгосрочном будущем.

Max Roser (2013). Our World in Data [online]. Доступно на сайте: www.ourworldindata.org

Незаменимый онлайн-ресурс, который помогает увидеть, как на протяжении последних двух столетий менялись самые важные аспекты нашего мира. От сырых данных до убедительных графиков и обстоятельного анализа.

Nick Bostrom (2014). Superintelligence: Paths, Dangers, Strategies.

Основополагающая работа об искусственном интеллекте и экзистенциальном риске.

Stuart Russell (2019). Human Compatible: AI and the Problem of Control.

Призыв к действию от ведущего исследователя ИИ, объясняющего, как развивать эту область с учетом рисков, которые возникнут при появлении продвинутого ИИ.

Alan Robock et al. (2007). ‘Nuclear winter revisited with a modern climate model and current nuclear arsenals: Still catastrophic consequences.’

Самая современная модель климатических последствий полномасштабной войны между США и Россией.

Richard Rhodes (1986). The Making of the Atomic Bomb.

Увлекательная история людей и событий, которые привели к созданию ядерного оружия. В ней содержится огромное количество информации о том, как все сложилось в итоге, а также показывается, каким образом отдельные люди могут повлиять на этот важный переход и каким образом они повлияли на него в прошлом.

Daniel Ellsberg (2017). The Doomsday Machine: Confessions of a Nuclear War Planner.

Исследование о том, насколько близко мы подошли к полномасштабной ядерной войне, основанное на массе новых данных, полученных в период работы автора в корпорации RAND и Пентагоне.

John Broome (2012). Climate Matters: Ethics in a Warming World.

Глубокий анализ этических аспектов изменения климата.

Gernot Wagner & Martin Weitzman (2015). Climate Shock: The Economic Consequences of a Hotter Planet.

Доступное исследование рисков изменения климата с фокусом на сценариях радикального потепления климата.

Библиография

Acemoglu, D. (2013). ‘The World Our Grandchildren Will Inherit’, in I. Palacios-Huerta (ed.), In 100 Years: Leading Economists Predict the Future (pp. 1–36). MIT Press.

Adams, F. C., and Laughlin, G. (1997). ‘A Dying Universe: The Long-Term Fate and Evolution of Astrophysical Objects’, Reviews of Modern Physics, 69 (2), 337–332.

Adams, F. C., and Laughlin, G. (1999). The Five Ages of the Universe: Inside the Physics of Eternity. Free Press.

Aizen, M. A., Garibaldi, L. A., Cunningham, S. A., and Klein, A. M. (2009). ‘How Much Does Agriculture Depend on Pollinators? Lessons from Long-Term Trends in Crop Production’. Annals of Botany, 103 (9), 1579–1588.

Alexander, S. (2014). Meditations on Moloch. https://slatestarcodex.com/ 2014/07/30/meditations-on-moloch/

Alexander, S. (2015). AI Researchers on AI Risk. https://slatestarcodex.com/2015/05/22/ai-researchers-on-ai-risk/

Alibek, K. (2008). Biohazard. Random House.

Allen, M., et al. (2018). ‘Framing and Context’, in V. Masson-Delmotte, et al. (eds), Global Warming of 1,5 °C. An IPCC Special Report on the impacts of global warming of 1,5 °C above pre-industrial levels and related global greenhouse gas emission pathways, in the context of strengthening the global response to the threat of climate change (pp. 49–91), in press.

Alroy, J. (1996). ‘Constant Extinction, Constrained Diversification, and Uncoordinated Stasis in North American Mammals’. Palaeogeography, Palaeoclimatology, Palaeoecology, 127 (1), 285–311.

Altman, A., and Wellman, C. H. (2004). ‘A Defense of International Criminal Law’. Ethics, 115 (1), 35–67.

Alvarez, L. W., Alvarez, W., Asaro, F., and Michel, H. V. (1980). ‘Extraterrestrial Cause for the Cretaceous-Tertiary Extinction’. Science,