Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале

461

P. W. Singer, “Military Robots and the Future of War,” TED talk, February 2009, https://www.ted.com/talks/pw_singer_on_robots_of_ war; P. W. Singer, “News and Events,” https://www.pwsinger.com/ news-and-events/; MCOE Online, “August Cole Discusses Future Fighting Possibilities,” YouTube, March 3, 2016, https://www.you-tube.com/watch?v=vl_J9_x-yOk.

462

Анатолий Днепров, Крабы идут по острову (Москва: Мир, 1968), ю: «…Я ведь вам сказал, что хочу усовершенствовать свои автоматы. – Ну так что же? Берите чертежи и думайте, как это сделать. При чем же тут эта междоусобица? Этак они начнут пожирать друг друга! – Вот именно! И выживут самые совершенные». (Благодарю Майкла Фрумкина за то, что он привлек мое внимание к этому рассказу.)

463

Педро Домингос придумал гипотетический Парк роботов по модели Парка юрского периода – «огромная фабрика по производству роботов. Вокруг нее – тысяча квадратных миль джунглей, каменных и не очень… На мастер-классе DARPA [Управления перспективных исследовательских проектов] я предложил эту идею в рамках мысленного эксперимента, и один из присутствующих в зале высших чинов сухо заметил: „Да, это реализуемо“». См.: Петро Домингос, Верховный алгоритм: как машинное обучение изменит наш мир (Москва: Манн, Иванов и Фербер, 2016), 143.

464

Bill Joy, “Why the Future Doesn’t Need Us,” Wired, April 1, 2000, https://www.wired. com/2 000/0 4/j oy- 2/.

465

Brad Turner, “Cooking Protestors Alive: The Excessive-Force Implications of the Active Denial System,” Duke Law & Technology Review n (2012): 332-356

466

Michael Schmitt, “Regulating Autonomous Weapons Might Be Smarter than Banning Them,” Just Security, August 10, 2015, https://www.justse-curity.org/25333/regulating-autonomous-weapons-smarter-banning/.

467

Конечно, могут быть и не распознающие объект роботы-убийцы, которые должны убить всякого, кто встретится им на пути на определенной территории, или любого человека определенной наружности. Они в этом плане напоминают те виды разрушительных вооружений, которые давно учтены военным правом.

468

Ronald Arkin, “The Case for Banning Killer Robots: Counterpoint,” Communications of the ACM 58, no. 12 (2015): 46–47.

469

Noel Е. Sharkey, “The Evitability of Autonomous Robot Warfare,” International Review of the Red Cross 94 (2012): 787–799. Критическую оценку заместительной автоматизации персонала правоохранительных органов см. в: Elizabeth Е. Joh, “Policing Police Robots,” UCLA Law Review Discourse 64 (2016): 516–543.

470

Thomas Gibbons-Neff, “U. S. Troops Deployed to Bolster Security at American Embassy in South Sudan,” Washington Post, July 13, 2016, https://www.washingtonpost.com/news/checkpoint/wp/2016/o7/13/ u-s-troops-deployed-to-bolster-security-at-american-embassy-in-south-sudan/?utm_term=.8825ec86285d; David E. Sanger and Eric Schmitt, “Yemen Withdraws Permission for U. S. Antiterror Ground Missions,” New York Times, February 7, 2017, https://www.nytimes. com/2017/02/07/world/middleeast/yemen-special-operations-missions.html.

471

Peter W. Singer, LikeWar: The Weaponization of Social Media (Boston: Houghton Mifflin Harcourt, 2018); Peter Pomerantsev, “The Hidden Author of Putinism: How Vladislav Surkov Invented the New Russia,” Atlantic, November 7, 2014, https://www.theatlantic.com/international/archive/2014/ii/hidden-author-putinism-russia-viadisiav-surkov/ 382489/.

472

Alexander Kott, David Alberts, Amy Zalman, Paulo Shakarian, Fernando Maymi, Cliff Wang, and Gang Qu, “Visualizing the Tactical Ground Battlefield in the Year 2050: Workshop Report,” US Army Research Laboratory, June 2015, https://www.arl.army.mil/arl-reports/2015/ARL-SR-O327.pdf; Lucy Ash, “How Russia Outfoxes Its Enemies,” BBC News, January 29, 2015, http://www.bbc.com/news/ magazine-31020283.

473

Rebecca Crootof, “The Killer Robots Are Here,” Cardozo Law Review 36 (2015): 1837–1915.

474

1977 Protocol 1 Additional to the Geneva Conventions of August 12, 1949, and Relating to the Protection of Victims of Non-International Armed Conflicts, article 51(3); 1978 Protocol 1 Additional to the Geneva Conventions of August 12, 1949, and Relating to the Protection of Victims of Non-International Armed Conflicts, article 13(3).

475

Bonnie Docherty, Losing Humanity: The Case against Killer Robots (New York: Human Rights Watch, 2012), 31.

476

Mike Crang and Stephen Graham, “Sentient Cities: Ambient Intelligence and the Politics of Urban Space,” Information Communication and Society 10 (2007): 789, 799 («Главным элементом этого нового типа конфликта, который погружает новые „боевые пространства“ в глубь городской гражданской жизни, является мобилизация среды как разведывательной системы. Такое погружение в городские инфраструктуры обеспечивает „осведомленность о боевом пространстве“, необходимую для отслеживания и выцеливания скрывающихся повстанцев, террористов и других „целей“»).

477

Грегуар Шамаю, Теория дрона (Москва: Ad Marginem, 2020), 174; Luke A. Whittemore, “Proportionality Decision Making in Targeting: Heuristics, Cognitive Biases, and the Law,” Harvard National Security Journal 7 (2016): 577, 593 («На каждом этапе командир должен взвешивать вероятности, чтобы выбрать ту категорию или другую. Свяжите эту неопределенность с размытостью терминов, и станет ясно, что принятие решений человеком при соблюдении принципа дискриминации, скорее всего, будет опираться на эвристические принципы оценки вероятностей и предсказания результатов»).

478

1977 Protocol 1 Additional to the Geneva Conventions of August 12, 1949, and Relating to the Protection of Victims of Non-International Armed Conflicts, art. 51(5) (b).

479

United States Air Force Judge Advocate General International and Operations Law Division, Air Force Operations and the Law: A Guidefor Air and Space Forces (Washington, DC: International and Operations Law Division, Judge Advocate General’s Department, 2002), 27.

480

U. C. Jha, Killer Robots: Lethal Autonomous Weapon System Legal, Ethical and Moral Challenges (New Delhi: Vij Books India Pvt. Ltd., 2016).

481

Peter Asaro, Jus Nascendi, “Robotic Weapons, and the Martens Clause,” in Robot Law, ed. Ryan Calo, Michael Froomkin, and Ian Kerr (Cheltenham, UK: Edward Elgar Publishing, 2016), 377.

482

Ibid., 378. Эта позиция подтверждается моей прежней работой: Frank Pasquale, “A Rule of Persons, Not Machines: The Limits of Legal Automation,” George Washington Law Review yty (2019): 1-55, где описываются недостатки автоматизированного применения права.

483

Quinta Jurecic, “The Lawfare Podcast: Samuel Moyn on ‘How Warfare Became Both More Humane and Harder to End,’ ” Lawfare,