Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир - Кейд Метц
Шрифт:
Интервал:
Закладка:
Хинтон покинул свой новый пост всего через три года и вернулся к своей профессорской должности в Торонто, когда Хассабис все еще возглавлял компанию по разработке игр. Пройдет несколько лет, прежде чем они встретятся, и то лишь мимолетно. В Gatsby у Хассабиса был коллега по имени Шейн Легг – у них был общий научный руководитель, и они вместе проводили исследования. В то время, как он позже вспоминал, искусственный интеллект общего назначения еще не стал темой, которую бы серьезные ученые обсуждали вслух, даже в таком месте, как Gatsby. «Всерьез это никто не воспринимал, – говорит он. – Если бы вы заговорили с кем-нибудь об AGI, вас сочли бы в лучшем случае чудаком, а в худшем – шарлатаном и неучем». Но Легг, новозеландец по происхождению, который изучал информатику и математику, а в свободное время увлекался бальными танцами, вполне разделял взгляды Хассабиса. Он мечтал о создании сверхразума – технологии, которая могла бы затмить способности человеческого мозга, – хотя и тревожился о том, что такие сверхразумные машины могут однажды стать угрозой для будущего человечества. Сверхразум, писал он в своей диссертации159, может доставить человечеству небывалые богатства и возможности – но в случае реализации «кошмарного сценария» может поставить под угрозу само существование рода человеческого. Даже если есть лишь крошечная возможность160 создания сверхразума, полагал он, исследователи должны учитывать возможные последствия этого. «Если исходить из того, что роль по-настоящему умных машин161 в жизни людей, вероятно, будет весомой и что существует хотя бы небольшая вероятность того, что это осуществится в обозримом будущем, то имеет смысл попытаться подготовиться к этому заранее. Если мы будем дожидаться момента, когда вероятность скорого появления умных машин станет достаточно высокой, тогда уже будет слишком поздно обсуждать связанные с этим проблемы и вопросы, – писал он. – Нам нужно серьезно работать над этим уже сейчас». Он верил в то, что сам человеческий мозг послужит моделью для создания сверхразума, и именно это привело его в лабораторию Gatsby. «Мне казалось совершенно естественным пойти именно туда», – говорит он. Ведь именно здесь он имел возможность исследовать то, что он называл «взаимосвязью между человеческим мозгом и машинным обучением».
Когда годы спустя Джеффа Хинтона попросили рассказать о Шейне Легге, он сравнил его с Демисом Хассабисом: «Он не такой умный, не такой азартный и не такой обаятельный в общении, но это можно сказать практически о каждом». При всем том и в последующие годы идеи Легга по своей авторитетности и влиятельности не уступали идеям его более именитого партнера.
Амбиции у Хассабиса и Легга были одинаковые. Они хотели, по их словам, «разгадать тайны разума». Но они разошлись во взглядах на то, как этой цели лучше добиться. Легг предлагал идти по научной стезе, в то время как Хассабис считал, что у них нет другого выбора, кроме как заниматься бизнесом, настаивая на том, что это единственный способ добыть ресурсы, которых им очень много понадобится для решения такой экстремально сложной задачи. Он хорошо знал академический мир, но и мир бизнеса – благодаря Elixir – он знал не хуже. Он не хотел создавать стартап ради стартапа. Он хотел создать компанию, нацеленную конкретно на осуществление тех долгосрочных исследований, которые их интересовали. Они смогут собрать гораздо больше финансовых средств от венчурных капиталистов, чем могли бы рассчитывать получить в качестве грантов для научной деятельности, уговаривал он Легга, и это позволит им обзавестись самыми современными техническими средствами, которыми не обладают даже лучшие университеты. Легг, в конце концов, согласился. «Но в Gatsby мы о своих планах никому не сообщали, – говорит Хассабис. – Все бы решили, что мы сошли с ума».
За год работы в постдокторантуре они сблизились с предпринимателем и общественным активистом по имени Мустафа Сулейман. Когда они втроем решили основать DeepMind162, именно Сулейман стал финансовым мозгом новой компании, ответственным за получение доходов, необходимых для продолжения исследований.
Компания DeepMind была основана осенью 2010 года, и ее название – признательный кивок как глубокому обучению, так и нейробиологии – а еще и суперкомпьютеру Deep Thought, который нашел ответ на «главный вопрос жизни» в английском научно-фантастическом романе «Автостопом по Галактике». Хассабис, Легг и Сулейман отстаивали каждый свою собственную точку зрения на компанию, которая была устремлена в дальние дали AGI и одновременно занималась решением насущных проблем на ближайшую перспективу, при этом открыто выражая озабоченность по поводу угроз, таящихся в этой технологии как в настоящем, так и в будущем. Их стратегической целью – декларируемой в первой строке их бизнес-плана – было создание искусственного интеллекта общего назначения. Но в то же время они говорили всем, кто готов был их слушать, включая потенциальных инвесторов, что эти исследования могут быть опасными. Они заявляли, что никогда не поделятся своими технологиями с военными, и предупреждали, что сверхразум может стать угрозой для существования человечества (о чем Легг писал еще в своей диссертации).
Поддержкой своего самого важного инвестора они заручились еще до того, как компания была основана. Последние несколько лет Легг посещал ежегодные собрания футуристов, получившие название «Саммит сингулярности». «Технологическая сингулярность» – это (гипотетический) момент, когда технологии совершенствуются до такой степени, что выходят из-под человеческого контроля. Учредители этой крохотной конференции принадлежали к эклектичной группе ученых-маргиналов, предпринимателей и зевак, которые верили в то, что этот момент близок. Их интересовал не только искусственный интеллект, но и технологии продления жизни, исследования стволовых клеток и другие разрозненные направления футуризма. Одним из основателей этого движения был философ и эксперт-самоучка по имени Элиезер Юдковский, который познакомил Легга с идеей сверхразума в начале 2000-х, когда они вместе работали в нью-йоркской компании Intelligenesis. Но из участников этого движения главным объектом внимания со стороны Хассабиса и Легга был не он, а Питер Тиль.
Летом 2010 года Хассабис и Легг
