Homo Deus. Краткая история будущего

Вслед за ними пришли гуманисты с совершенно иной историей: «Люди придумали Бога, сочинили Библию и потом толковали ее то так, то эдак. А источником всяческой правды являются сами люди. Вы можете читать Библию как впечатляющий плод фантазии человека, а можете и не читать. Если перед вами стоит дилемма, просто прислушайтесь к себе и поступите так, как подсказывает ваш внутренний голос». Далее гуманизм давал подробные практические наставления относительно того, как нужно прислушиваться к себе, – рекомендуя, например, любоваться закатом, читать Гете, вести личный дневник, беседовать по душам с близким другом и проводить демократические выборы.

Даже ученые веками принимали эти гуманистические установки. Когда врачи сомневались, жениться им или нет, они тоже смотрели на закаты, пытаясь понять самих себя. Когда химики размышляли, хороша ли предложенная им работа, они тоже вели дневники и беседовали по душам с закадычными друзьями. Когда биологи спорили, продолжать ли войну или заключать мир, они тоже голосовали на демократических выборах. Когда нейробиологи писали книжки о своих потрясающих открытиях, они часто предваряли их ду-хоподъемными цитатами из Гёте. Это была основа современного альянса между наукой и гуманизмом, поддерживавшая хрупкий баланс между современными «ян» и «инь» – разумом и чувством, лабораторией и музеем, линией производства и супермаркетом.

Ученые не только глубоко чтили человеческие чувства, но и находили этому прекрасное эволюционное обоснование. После Дарвина биологи начали объяснять, что чувства – это сложные алгоритмы, созданные эволюцией, чтобы помогать животным в принятии верных решений. Наша любовь, наш страх, наша страсть – не какие-то расплывчатые духовные феномены, годные лишь для поэтических воспарений. Они вобрали в себя практический опыт многих миллионов лет. Когда вы читаете Библию, то внимаете советам группы священников и раввинов, живших в древнем Иерусалиме. Когда же вы прислушиваетесь к собственным чувствам, то доверяетесь алгоритму, который эволюция развивала миллионы лет, который выдержал жесточайший экзамен естественного отбора. Ваши чувства – это голос миллионов предков. Каждый из них ухитрился выжить и произвести на свет потомство во враждебном окружении. Ваши чувства, конечно, могут вас подводить, но они тем не менее лучше всех прочих авторитетов. Миллионы и миллионы лет чувства оставались самыми совершенными алгоритмами в мире. Во времена Конфуция, Мухаммеда или Сталина людям надо было верить себе, а не учениям конфуцианства, ислама или коммунизма.

В XXI веке чувства уже не являются самыми совершенными алгоритмами. Мы разрабатываем более изощренные алгоритмы, которые используют беспрецедентные вычислительные мощности и гигантские базы данных. Алгоритмы Google и Facebook прекрасно осведомлены не только о вашем самочувствии, но и о мириадах других относящихся к вам вещей, о которых вы вряд ли подозреваете. Поэтому вы должны будете перестать полагаться на себя и начать полагаться на эти внешние алгоритмы. Зачем устраивать демократические выборы, если алгоритмы знают не только как проголосует каждый избиратель, но и по каким неврологическим причинам один голосует за демократов, а другой за республиканцев? Если гуманизм повелевал: «Слушайся своих чувств!», – датаизм повелевает: «Слушайся алгоритмов! Они знают, что ты чувствуешь».

Когда вы ломаете голову, на ком жениться, какую профессию выбрать, ввязываться ли в войну, датаизм говорит вам, что медитация на вершине и созерцание опускающегося в море солнца будут пустой тратой времени. Также бесполезно бродить по музеям, изливать душу в личном дневнике или вести сердечные беседы с другом. Да, чтобы принимать правильные решения, вы должны себя познать. Но в XXI веке для этого есть гораздо лучшие методы, чем лазанье по горам, хождение по музеям и ведение дневников. Вот некоторые практические рекомендации датаизма.

«Вы хотите узнать, что реально представляете собой? – спрашивает датаизм. – Тогда забудьте о горах и музеях. Вы секвенировали свою ДНК? Нет?! Чего же вы ждете? Сделайте это сегодня же. И убедите своих бабушек и дедушек, родителей, братьев и сестер, чтобы и они секвенировали свои ДНК, – эти данные чрезвычайно важны для вас. И вы, наверно, слышали о носимых на теле биометрических устройствах, измеряющих ваши давление и частоту пульса двадцать четыре часа в сутки? Купите одно из них, наденьте и подсоедините к своему смартфону. А заодно купите мобильную камеру и микрофон – фиксируйте каждый свой шаг, живите online. И не противьтесь тому, чтобы Google и Facebook читали все ваши имейлы, мониторили все ваши чаты и сообщения и вели учет всех ваших лайков и кликов. Если вы будете все это исполнять, тогда великие алгоритмы Интернета Всех Вещей укажут вам, на ком жениться, какую профессию выбрать и ввязываться ли в войну».

Но откуда берутся эти великие алгоритмы? Это тайна да-таизма. По примеру христианства, согласно которому нам не дано постичь Бога и Его замысел, датаизм объявляет, что человеческий мозг не способен осмыслить новые алгоритмы высшего порядка. В наши дни алгоритмы, конечно, в основном пишут программисты. Но действительно важные алгоритмы – такие, как поисковый алгоритм Google, – разрабатываются огромными коллективами. Каждый из разработчиков имеет представление лишь о своем фрагменте пазла, и никто по-настоящему не понимает алгоритм в целом. Более того, с возникновением машинного обучения и искусственных нейронных сетей увеличивается число алгоритмов, которые развиваются самостоятельно, самосовершенствуются и извлекают уроки из собственных ошибок. Они анализируют огромные объемы данных, с которыми не справиться ни одному человеку, и учатся распознавать образы и выбирать стратегии, непостижимые для человеческого ума. Исходный алгоритм может быть придуман людьми, но далее, развиваясь, он идет своей дорогой, направляясь туда, где не ступала нога человека. Туда, куда путь человеку заказан.





Пена в бурном потоке данных




У датаизма, конечно же, есть свои критики и еретики. Как мы видели в третьей главе, очень сомнительно, чтобы всю жизнь можно было свести к потокам данных. В частности, мы пока понятия не имеем, как и почему потоки данных трансформируются в сознание и субъективные переживания. Может, лет через двадцать у нас появится полноценное объяснение. А может, мы обнаружим, что организмы и не алгоритмы вовсе.

Также сомнительно, чтобы жизнь можно было свести исключительно к принятию решений. Под влиянием датаизма и естественные, и общественные науки зациклились на процессах принятия решений, как будто в жизни нет ничего другого. Но так ли это? Ощущения, эмоции и мысли, конечно же, играют в принятии решений существенную роль, но только ли в этом их смысл? Датаизм все глубже и глубже вникает в процессы принятия решений, однако не исключено, что он воспринимает жизнь все более искаженно.

Критическое исследование датаистической догмы должно стать не только величайшим научным вызовом XXI века, но и самым актуальным политическим и экономическим проектом. Естественники и обществоведы обязаны спросить себя, не упускаем ли мы чего-то, ограничивая жизнь обработкой данных и принятием решений. Может быть, во Вселенной есть сущности, которые нельзя свести к данным? Предположим, лишенные сознания алгоритмы сумеют обойти сознательный интеллект во всем, что касается обработки данных, – а вдруг при замене сознательного интеллекта лишенными сознания алгоритмами мы утратим что-то очень важное?

Даже если датаизм не прав и организмы не есть алгоритмы, это не обязательно помешает ему завладеть миром. Многие предшествующие религии завоевали огромную популярность и власть, несмотря на фактологическую несостоятельность. Если это удалось христианству и коммунизму, то почему не удастся датаизму? У датаизма хорошие перспективы, так как сейчас он проникает во все научные дисциплины. Единая научная парадигма способна легко обернуться непререкаемой догмой. Очень трудно оспаривать любую научную парадигму, но до сих пор ни одна из них не принималась научным сообществом в целом. Ученые отдельно взятой специальности всегда могли позаимствовать еретические взгляды у коллег другой специальности. Если же все, от музыковедов до биологов, будут пользоваться единой датаистической парадигмой, междисциплинарные заимствования будут лишь способствовать ее усилению. Так что ошибочна эта парадигма или верна, противостоять ей в любом случае будет невероятно трудно.

Если датаизму удастся покорить мир, что случится с нами, людьми? Поначалу датаизм, вероятно, активизирует гуманистическую погоню за здоровьем, счастьем и властью. Он и распространяется именно благодаря обещаниям осуществить эти человеческие мечты. Чтобы обрести бессмертие, счастье и божественную силу созидания, нам необходимо обрабатывать огромный вал информации, неизмеримо превышающий возможности человеческого мозга. Поэтому алгоритмы должны будут обрабатывать его за нас. Но, когда полномочия перейдут от людей к алгоритмам, гуманистические проекты могут утратить актуальность. Раз мы отвергаем гомоцентричное мировоззрение в угоду датацентричному, человеческое здоровье и счастье могут утратить свое значение. Чего так носиться с устаревшими механизмами обработки данных, если уже существуют гораздо более продвинутые модели? Мы стремимся создать Интернет Всех Вещей в надежде, что он сделает нас здоровыми, счастливыми и могущественными. Но когда Интернет Всех Вещей обретет силу, люди могут превратиться из инженеров в чипы, из чипов в биты и в конце концов растаять в стремнине данных, как ком земли, брошенный в бурную реку.

Таким образом, датаизм грозит сотворить с Человеком Разумным то, что Человек Разумный сотворил со всеми прочими животными. На протяжении всей истории люди плели глобальную сеть и оценивали каждую вещь в соответствии с ее ролью в функционировании этой сети. Тысячи лет этим питались их гордость и предубеждения. Поскольку главенствующую роль в сети играли люди, им было легко приписывать себе ее успехи и считать себя венцом творения. Жизнь и переживания всех других животных ценились мало, потому что их функции были менее важными. И всякий раз, как животное переставало выполнять свою функцию, оно было обречено на исчезновение. Но стоит нам, людям, утратить нашу функциональную значимость для сети, как мы тотчас обнаружим, что вовсе не являемся венцом творения. Созданные нами же критерии спишут нас в вечность следом за мамонтами и китайскими речными дельфинами. И задним числом выяснится, что человечество было просто пеной в бурлящем космическом потоке данных.



На самом деле мы не можем предсказать будущее. Потому что техника не детерминистична. Одна и та же техника закладывала основу очень разных общественных устройств. Например, с помощью техники промышленной революции – поездов, электричества, радио, телефона – учреждались коммунистические диктатуры, фашистские режимы и либеральные демократии. Возьмите Южную Корею и Северную Корею. В их распоряжении была абсолютно одинаковая техника, но они воспользовались ей по-разному.

Изобретение искусственного интеллекта и биотехнологий непременно изменит мир, но оно не предписывает единственного детерминированного исхода. Все сценарии настоящей книги следует воспринимать как вероятности, а не пророчества. Если какие-то из них вас не устраивают – начинайте мыслить и, главное, действовать так, чтобы не дать этим вероятностям материализоваться.

Но начать думать и действовать по-новому очень непросто, так как на наши мысли и поступки оказывают сильное влияние современные идеологии и социальные системы. Целью настоящей книги было ослабить это влияние и побудить читателей более творчески отнестись к будущему. Она является попыткой не сузить наши горизонты предсказанием какой-то определенной перспективы, а раздвинуть их путем знакомства с широким спектром возможностей. Никому не известно, что будет с рынком труда, семьей и экологией, а также какие религии, экономические системы и политические структуры будут доминировать в мире в 2050 году.

Но расширение горизонтов может привести к увеличению нашей растерянности и пассивности. При таком множестве сценариев и вероятностей на что нам следует обратить особое внимание, на чем сконцентрироваться? Мир перестраивается быстрее, чем когда-либо, и мы тонем в океане данных, идей, предсказаний и угроз. Люди уступают права свободному рынку, коллективному разуму и внешним алгоритмам, в частности, потому, что не в состоянии совладать с информационным наводнением. Раньше цензура просто перекрывала поток информации. В XXI веке цензура осуществляется путем снабжения людей лишней, ненужной информацией. Мы просто не знаем, на чем сосредоточиться, и часто теряем время, изучая и обсуждая второстепенные и третьестепенные вещи. Испокон веков власть подразумевала доступ к информации. Сегодня власть подразумевает знание, на что не надо отвлекаться. Так на чем же, учитывая все происходящее в этом хаотичном мире, нам надо сосредоточить внимание?

В масштабе месяцев, наверное, необходимо обратиться к самым насущным проблемам, таким как опасные неурядицы на Ближнем Востоке, миграционный кризис в Европе и замедление китайской экономики. Если говорить о масштабе десятилетий – надо сосредоточиться на глобальном потеплении, растущем неравенстве и приближающемся крушении рынка труда. Но если мыслить масштабами бытия, то все наши дела и проблемы отступают перед тремя взаимосвязанными процессами:

1. Наука объединяется вокруг всеобъемлющей догмы, которая утверждает, что организмы – это алгоритмы и что жизнь является обработкой данных.

2. Интеллект отделяется от сознания.

3. Лишенные сознания, но высокоразвитые алгоритмы вскоре могут знать нас лучше, чем знаем себя мы сами.



Эти три процесса порождают три ключевых вопроса, которые, я надеюсь, будут занимать ваши мысли еще долго после того, как вы закроете эту книгу:

1. Действительно ли организмы – всего лишь алгоритмы, а жизнь – всего лишь обработка данных?

2. Что более ценно – ум или сознание?

3. Что случится с обществом, политикой и нашей повседневной жизнью, когда лишенные сознания, но высокоразвитые алгоритмы будут знать нас лучше, чем знаем себя мы сами?





Благодарности




Хочу выразить свою признательность следующим людям, животным и организациям:

Моему наставнику Сатье Нарайяну Гоенке (1924–2013), обучившему меня технике медитации Випассана, которая помогла мне увидеть реальность такой, какая она есть, и лучше познать мир и разум. Мне не удалось бы написать эту книгу без сосредоточенности, спокойствия и углубленности, которые я приобрел в последние пятнадцать лет, практикуя Випассану.


Израильскому научному фонду, спонсировавшему этот исследовательский проект (грант 26/09).

Еврейскому университету в Иерусалиме и историческому факультету, моему академическому дому, в частности; всем когда-либо занимавшимся у меня студентам, так много давшим мне своими вопросами, своими ответами и своим молчанием.

Моему научному ассистенту Идану Шереру, безропотно бравшемуся за все, что я ему ни подкидывал, будь то шимпанзе, неандертальцы или киборги. И моим ассистентам Рэму Лирану, Эйялу Миллеру и Омри Шеферу Равиву, то и дело вносившим свою лепту.

Михал Шавит, моему издателю в Penguin Random House в Великобритании, за ее решимость и многолетнюю поддержку; а также Элли Стил, Сюзанне Дин, Бетан Джоунс, Марии Гарбут-Люцеро и их коллегам в Penguin Random House за всю их помощь.

Дэвиду Милнеру, великолепно отредактировавшему рукопись, спасшему меня от многих постыдных огрехов и напомнившему мне, что «delete» самая важная клавиша на клавиатуре.

Прине Гайер и Лие Кресоватой из пиар-агентства «Riot Communications» за эффективную помощь.

Джонатану Джао, моему издателю в Harper Collins в Нью-Йорке, и Клэр Вахтель, моему прежнему издателю там же, за их веру, содействие и понимание.

Шмуэлю Роснеру и Эрану Зморе за то, что разглядели потенциал, и за ценные отклики и советы.

Деборе Харрис, за помощь в решающем прорыве.

Амосу Авизару, Шило де Беру, Тирзе Айзенберг, Люку Мэтьюсу, Рами Ротгольцу и Орену Шрики, которые внимательно прочли рукопись и не пожалели времени и усилий на то, чтобы исправить мои ошибки и дать мне взглянуть на вещи с иных точек зрения.

Игалю Бороховски, убедившему меня быть помягче с Богом.

Йораму Йовеллу за его проницательность и за наши совместные прогулки в Эштаольском лесу.

Ори Кацу и Джею Померанцу, которые помогли мне лучше понять капиталистическую систему.

Кармель Вайсман, Жоакину Келлеру и Антуану Мазьеру за их мысли о мозге и разуме.

Бенджамину З. Кедеру за высевание и полив семян.

Диего Ольштейну за долгие годы теплой дружбы и мягкого руководства.

Эхуду Амиру, Шуки Бруку, Мири Ворцелю, Ги Заславски, Ми-хал Коэн, Йосси Мори, Амиру Сумакай-Финку, Саре Аарони и Ади Эзре, прочитавшим отдельные части рукописи и поделившимся своими идеями.

Эйлоне Ариель за фонтанирующий энтузиазм и надежность скалы.

Моей теще и бухгалтеру, Ханне Яхав, не допустившей краха предприятия.

Моей бабушке Фанни, моей маме Пнине, моим сестрам Лиат и Эйнат и вообще всем моим родственникам и друзьям за их любовь и поддержку.

Чамбе, Пенго и Чили, предложившим собачий взгляд на некоторые из ключевых идей и теорий этой книги.

И моему партнеру и менеджеру Ицику, который уже сейчас функционирует как мой Интернет Всех Вещей.





Иллюстрации




© vchal / Shutterstock.com

Питер Брейгель / Museo del Prado (Wikimedia Commons)

Photograph by Rocky Mountain Laboratories, NIAID, NIH (Wikimedia Commons)

Photograph by Unknown (Wikimedia Commons)

Photograph by Niki.L (Wikimedia Commons)

Photograph by Elementerre (Wikimedia Commons)

© Joseph Sohm / Shutterstock.com

© Marcello Casal Jr/Agência Brasil (Wikimedia Commons)

© QualityImagePro / Shutterstock.com

Photograph by Carole Raddato (Wikimedia Commons)

Микеланджело Буонарроти / Web Gallery of Art (Wikimedia Commons)