Homo Deus. Краткая история будущего

Сомнения в существовании свободной воли и неделимого «я», конечно, совсем не новы. Более двух тысяч лет назад мыслители Индии, Китая и Греции говорили, что индивидуум – это абстракция. Однако подобные сомнения никак не влияют на ход истории, если не оказывают реального влияния на экономику, политику и повседневную жизнь. Люди – непревзойденные мастера когнитивного диссонанса: мы позволяем себе в лаборатории верить в одно, а в суде или парламенте – совершенно в другое. Как христианство не умерло в тот день, когда Дарвин опубликовал свое «Происхождение видов», так и либерализм не исчезнет только потому, что последние научные данные отрицают существование свободных индивидуумов.

Что говорить – даже Ричард Докинз, Стивен Пинкер и другие пропагандисты новейших научных взглядов на мир не отказываются от либерализма. Посвятив сотни страниц критике свободы воли и нашего «я», они делают головокружительное интеллектуальное сальто и приземляются в XVIII веке, как будто бы поразительные открытия эволюционной биологии и нейробиологии не имеют никакого отношения к этическим и политическим идеям Локка, Руссо и Джефферсона.

Но как только еретические научные прозрения претворятся в технологиях, повседневной деятельности и экономических структурах, станет все труднее вести эту двойную игру, и нам или нашим детям, возможно, потребуется абсолютно новый набор религиозных верований и политических институтов. В начале третьего тысячелетия либерализму угрожает не философская идея, отрицающая существование свободных индивидуумов, а конкретные технологии. В самом скором времени нас ожидает нашествие чрезвычайно полезных устройств, приспособлений и структур, которые не оставят места свободной воле индивидов. Выживут ли в этих условиях демократия, свободный рынок и права человека?





9. Великое разделение





Мы уже вкратце знакомы с недавними научными открытиями, подрывающими основы либеральной философии. Теперь пришло время рассмотреть практическое значение этих открытий. Либералы стоят за свободные рынки и демократические выборы, так как верят, что каждый человек – уникальная самоценная личность, чей свободный выбор является высшим авторитетом. В XXI веке три практических варианта развития событий могут отправить это верование в утиль:

1. Люди будут утрачивать свою экономическую и военную полезность, в результате чего политико-экономическая система перестанет их высоко ценить.

2. Система будет продолжать ценить людей всех вместе, их совокупность, но не уникальных индивидов.

3. Система будет по-прежнему высоко ценить отдельных индивидов – но это будет новая элита усовершенствованных сверхлюдей, а не представители масс.

Разберем все три угрозы детально. Первая – что развитие технологий сделает людей экономически и в военном плане бесполезными – не докажет неправоту либерализма на философском уровне, но трудно представить себе в реальности, как демократия, свободные рынки и другие либеральные институты смогут пережить такой удар. Ведь либерализм стал главенствующей идеологией не просто потому, что у него самая веская философская аргументация. Либерализм преуспел потому, что признание ценности каждого человека приносило политическую, экономическую и военную выгоду. В массовых битвах современных индустриальных войн и в массовых производствах современных индустриальных экономик на счету был каждый. Ценилась каждая пара рук, способная держать винтовку или крутить баранку.

Весной 1793 года королевские дома Европы отправили свои армии подавлять Французскую революцию в зародыше. В ответ парижские смутьяны объявили levée en masse[210], начав тем самым первую тотальную войну. 23 августа Национальный конвент выпустил декрет: «С настоящего момента и до тех пор, пока враг не будет изгнан с территории Республики, все французы находятся в состоянии перманентной мобилизации. Молодые парни должны сражаться; женатые мужчины – ковать оружие и подвозить продовольствие; женщины – шить палатки и одежду и служить в госпиталях; дети – щипать корпию из ветоши; старики должны выходить на площади и возбуждать в воинах храбрость, ненависть к королям и верность Республике…»[211]

Интересно сопоставить этот декрет с самым известным документом Французской революции – Декларацией прав человека и гражданина, – где все граждане признаются равноценными и равноправными. Совпадение ли, что всеобщие права были провозглашены в тот же исторический момент, когда был объявлен всеобщий призыв? Ученые мужи могут сколько угодно иронизировать насчет прямой связи между этими событиями, но распространенный в последующие два века аргумент в пользу демократии заключался в том, что нужно предоставлять гражданам политические права, так как солдаты и рабочие в демократических странах справляются со своими задачами лучше, чем в диктаторских государствах. Якобы политические гарантии повышают их мотивацию и инициативу, что очень кстати как на поле сражения, так и на фабрике.

Чарльз У. Элиот, президент Гарварда с 1869 по 1909 год, писал в августе 1917 года в Te New York Times, что «демократические армии воюют успешнее, чем армии с аристократической верхушкой и палочной дисциплиной» и что «армии наций, где массы сами устанавливают законы, выбирают чиновников и решают вопросы войны и мира, сражаются лучше, чем армии самодержцев, которые властвуют по праву рождения и Божьему произволению»[212].

Те же резоны способствовали раскрепощению женщин после Первой мировой войны. Осознав, насколько незаменимы женщины в тотальных индустриальных войнах, правительства посчитали нужным дать им политические права. В 1918 году президент Вудро Вильсон поддержал предоставление женщинам права голоса, объяснив сенату США, что в Первой мировой войне «не выстояли бы ни другие вовлеченные в нее нации, ни Америка, если бы не труд женщин – труд во всех областях – не только в тех сферах деятельности, в которых мы привыкли их видеть, но и там, где обычно работали мужчины, даже у самого края, у самой кромки сражений. Нас осудят, и осудят заслуженно, если мы не дадим им как можно более широких прав и свобод»[213].

Но в XXI веке большинство мужчин и женщин, вероятно, утратят свою военную и экономическую ценность. Всеобщая мобилизация двух мировых войн – далекое прошлое. Передовые армии XXI столетия полагаются прежде всего на новейшие технологии. Вместо безграничных запасов пушечного мяса странам будет достаточно лишь небольшого числа хорошо обученных солдат, меньшего числа супербойцов спецназа и еще меньшего – специалистов, знающих, как создавать и использовать сверхсложные и сверхэффективные технику и технологии. На смену огромным армиям прошлого столетия приходят высокотехнологичные вооруженные силы, использующие дроны-беспилотникии и киберчервей, а генералы все чаще и чаще доверяют самые ответственные решения алгоритмам.

Мало того что солдаты из плоти и крови подвластны страху, голоду и усталости, так они еще думают и действуют в изживших себя временных рамках. Со времен Навуходоносора до правления Саддама Хусейна, несмотря на уйму технических усовершенствований, война велась по естественному расписанию. Совещания длились часами, сражения шли сутками, войны тянулись годами. А кибервойна может продолжаться всего несколько минут. Дежурный лейтенант Кибер-командования, заметив что-то неладное, сразу же позвонит своему командиру, который, в свою очередь, свяжется с президентом. Но когда тот потянется к красной кнопке, война уже будет проиграна. За секунды достаточно изощренная кибератака способна вывести из строя энергосистему, уничтожить все центры управления полетами, вызвать множество аварий на атомных станциях и радиационно-химических установках, разрушить коммуникационные сети полиции, армии и разведки и стереть всю финансовую отчетность, так что триллионы долларов исчезнут бесследно и никто уже не узнает, кто чем владел. Единственное, что сможет сдержать массовую истерию, – это то, что в отсутствие интернета, телевидения и радио люди не будут представлять себе истинных размеров бедствия.

Возьмем масштаб помельче, и предположим, что в небе сражаются два беспилотника. Один не способен открыть огонь без команды оператора, сидящего в далеком бункере.





Пехота поднимается в атаку в сражении на Сомме, 1916





Беспилотный боевой дрон, 2016



Другой полностью автономен. Какой беспилотник, по-вашему, одержит верх? Если в 2093 году одряхлевший Евросоюз отправит свои беспилотники и отряды киборгов подавлять новую Французскую революцию, Парижская коммуна, очевидно, задействует каждого доступного хакера, каждый компьютер и смартфон, но большая часть населения страны ей не понадобится, разве что в качестве живого щита. Показательно, что уже сейчас во многих асимметричных конфликтах роль большинства граждан сведена к роли живых щитов.

А уж если вы ставите законность и справедливость выше победы, тогда вам тем более надо заменить солдат и пилотов автономными роботами. Солдаты убивают, насилуют, мародерствуют и, даже стараясь сдерживаться, слишком часто по ошибке проливают кровь мирных жителей. Действие компьютеров с этическими алгоритмами будут гораздо больше соответствовать постановлениям Международного уголовного суда.

В экономической сфере способность держать молоток или нажимать на кнопку тоже уменьшается в цене, что угрожает альянсу между либерализмом и капитализмом. В XX веке либералы разъясняли, что мы не должны выбирать между этикой и экономикой. Защита прав и свобод человека была и моральным императивом, и ключом к экономическому росту. Британия, Франция и Соединенные Штаты якобы потому достигли процветания, что дали свободу своим экономикам и обществам. Если Турция, Бразилия и Китай хотели стать столь же успешными, им следовало поступить так же. Когда, случалось, тираны и хунты выбирали либеральный путь развития, во многих, если не в большинстве, случаях ими руководили не моральные, а экономические соображения.

В XXI веке либерализму будет гораздо труднее продавать себя. Когда массы утратят свою экономическую значимость, хватит ли одних моральных аргументов для защиты прав и свобод человека? Продолжат ли элиты и правительства ценить каждую личность, даже когда это перестанет приносить экономические дивиденды?

В прошлом многое умели делать только люди. Теперь же роботы и компьютеры догоняют нас, а могут скоро и опередить в большинстве занятий. Да, компьютеры функционируют абсолютно иначе, чем мы, и не похоже, чтобы они в обозримом будущем уподобились людям. Нет, в частности, оснований думать, что компьютеры обретут сознание и начнут испытывать эмоции и ощущения. За последние полвека компьютерный интеллект совершил гигантский рывок вперед, но не было никакого прогресса компьютерного сознания. Насколько нам известно, в 2018 году компьютеры не более сознательны, чем их прототипы в 1950-х. Однако мы стоим буквально на пороге грандиозной революции, в результате которой люди рискуют лишиться своей экономической ценности. Происходит это из-за того, что интеллект отделяется от сознания.

До сегодняшнего дня высокий интеллект всегда шел рука об руку с высокоразвитым сознанием. Только сознательные существа были способны выполнять задачи, требующие «много ума», – играть в шахматы, водить машины, диагностировать болезни, идентифицировать террористов. Теперь же мы разрабатываем новые типы интеллекта без сознания, которые справляются с подобными задачами намного лучше, чем люди. Дело в том, что в основе всех вышеперечисленных задач лежит распознавание образов, а в нем лишенные сознания алгоритмы могут скоро превзойти человеческое сознание.

В научно-фантастических фильмах обычно проводится мысль, что для успешного соревнования с человеческим интеллектом компьютеры должны будут развить сознание. Однако реальная наука иного мнения. Возможно, существуют альтернативные пути к сверхинтеллекту, лишь некоторые из которых пролегают по узким проливам сознания. В течение миллионов лет органическая эволюция неспешно плыла по этому маршруту. Но эволюция неорганических компьютеров может обойти эти узкие проливы стороной, выбрав другой, гораздо более быстрый путь к суперинтеллекту.

Тут возникает серьезный вопрос: что по-настоящему важно – интеллект или сознание? Пока они шли в связке, споры об их сравнительной ценности были просто забавой философов. Однако в XXI веке это становится острой политической и экономической проблемой. И надо трезво понимать, что по крайней мере армиям и корпорациям ответ на этот вопрос очевиден: интеллект обязателен, а сознание нет.

Армии и корпорации не в состоянии функционировать без интеллекта, но им не нужны сознание и субъективные переживания. Богатство сознательных переживаний таксиста из плоти и крови бесконечно в сравнении с полным бесчувствием беспилотного автомобиля. Таксист может наслаждаться музыкой, курсируя по оживленным улицам Сеула. Его сознание может расширяться, когда он в благоговении созерцает звезды и размышляет о тайнах мироздания. Его глаза могут наполняться слезами радости, когда он видит первые шаги своей дочурки. Но ничего этого системе от таксиста не нужно. Ей нужно одно: обеспечивать быструю, безопасную и дешевую перевозку пассажиров из пункта А в пункт Б. И беспилотный автомобиль скоро будет справляться с этим гораздо успешнее, хотя он и не наслаждается музыкой и не благоговеет перед чудом бытия.

Давайте вспомним, как промышленная революция обошлась с лошадьми. Обычная лошадь способна чувствовать, любить, узнавать лица, прыгать через заборы и делать много чего другого, на что не способны не только «форд» модели Т, но и «ламборгини». И все же машины вытеснили лошадей, так как лучше выполняли несколько функций, реально необходимых системе. Таксистов почти наверняка ждет участь лошадей.

В самом деле, если мы запретим людям водить не только таксомоторы, но вообще любые машины и передадим компьютерным алгоритмам управление дорожным движением, то сможем затем подключить все транспортные средства к единой сети, снизив тем самым вероятность происшествий на дорогах. В августе 2015 года один из экспериментальных беспилотных автомобилей попал в аварию. Он затормозил на перекрестке, пропуская пешеходов. Мгновение спустя в него сзади врезался седан, чей беспечный водитель, вероятно, размышлял о тайнах мироздания, вместо того чтобы следить за дорогой. Этого, скорее всего, не случилось бы, если бы обеими машинами управляли взаимосвязанные компьютеры. Контролирующий алгоритм был бы осведомлен о положении и намерениях каждого автомобиля и не дал бы двум своим марионеткам столкнуться. Такая система сэкономила бы кучу времени и денег и спасла бы не одну человеческую жизнь – но вместе с тем она упразднила бы человеческий опыт вождения и сотни миллионов рабочих мест[214].


Некоторые экономисты предсказывают, что рано или поздно обычные, немодернизированные люди станут абсолютно бесполезными. Роботы и 3D-принтеры уже заменяют рабочих в ранее ручных производствах типа пошива мужских сорочек, а «многоумные» алгоритмы так же поступят с «белыми воротничками». В зону риска попали банковские клерки и турагенты, которые еще совсем недавно казались застрахованными от автоматизации. Сколько понадобится турагентов, если мы будем с помощью смартфона покупать билеты и заказывать отели у алгоритма?

Трейдеры фондовой биржи тоже в опасности. Финансовый трейдинг уже сейчас осуществляется в основном компьютерными алгоритмами, которые за секунду обрабатывают больше данных, чем человек за год, и реагируют на полученную информацию быстрее, чем мы успеваем моргнуть. 23 апреля 2013 года сирийские хакеры взломали официальный Twitter-аккаунт агентства Ассошиэйтед Пресс. В 13:07 они разместили в нем твит, что Белый дом взорван, президент Обама ранен. Торговые алгоритмы, осуществляющие постоянный мониторинг новостных лент, среагировали мгновенно и начали как сумасшедшие скидывать акции. Индекс Доу-Джонса вошел в пике и за шестьдесят секунд упал на 150 пунктов, что равносильно потере 136 миллиардов долларов! В 13:10 Ассошиэйтед Пресс сообщило, что твит был фейком. Алгоритмы дали обратный ход, и к 13:13 Доу-Джонс отыграл почти все свои потери.

Тремя годами раньше, 6 мая 2010 года, Нью-Йоркская фондовая биржа пережила даже более острый шок. В течение пяти минут – с 14:42 до 14:47 – индекс Доу-Джонса упал на тысячу пунктов, вызвав потери в триллион долларов. Затем он вновь подскочил, вернувшись на прежний уровень чуть больше чем за три минуты. Вот что происходит, когда сверхбыстрые компьютерные программы распоряжаются нашими финансами. Эксперты по сей день гадают, чем был вызван этот так называемый «мгновенный обвал». Они знают, что виной всему – алгоритмы, но до сих пор не могут понять, где именно произошел сбой. Некоторые американские трейдеры возбуждают дела против алгоритмического трейдинга, утверждая, что он дискриминирует людей, которые просто не в состоянии реагировать так же быстро. Прения о том, действительно ли это является нарушением прав человека, еще надолго обеспечат адвокатов работой и гонорарами[215].

И этими адвокатами не обязательно будут люди. Благодаря фильмам и телесериалам господствует представление, что адвокаты не вылезают из судов, где или кричат «Протестую!», или произносят страстные речи. На самом деле рядовые адвокаты проводят дни напролет в изучении дел, поиске прецедентов, лазеек и крупиц потенциально важных свидетельств. Кто-то пытается разгадать, что случилось в ночь убийства, кто-то составляет многостраничный бизнес-контракт, призванный застраховать клиента от любой мыслимой и немыслимой случайности. Какова будет участь всех этих адвокатов, когда умные поисковые алгоритмы смогут за день находить столько прецедентов, сколько человеку не найти за всю жизнь, а сканеры головного мозга будут разоблачать жульничество и обман за секунду? Даже многоопытным адвокатам и детективам нелегко распознать фальшь по выражению лица и интонации голоса. Однако ложь и правда активизируют разные области мозга. Хотя мы еще только на подходе, но уже очевидно, что в недалеком будущем фМРТ-сканеры получат применение как почти идеальные детекторы правды. Куда тогда податься миллионам адвокатов, судей, полицейских и детективов? Им, пожалуй, придется переучиваться, осваивать другие профессии[216].

Но, придя в учебный класс, они, скорее всего, обнаружат, что алгоритмы уже там. Такие компании, как Mindojo, разрабатывают интерактивные алгоритмы, которые не только будут обучать меня математике, физике и истории, но одновременно досконально изучат меня самого. Цифровые учителя тщательно промониторят все мои ответы и отметят время, потраченное мной на их обдумывание. Через некоторое время они будут располагать полной информацией о том, в чем я силен и в чем слаб, что меня вдохновляет, а от чего меня клонит в сон. Они вложат мне в голову хоть термодинамику, хоть геометрию тем способом, который пригоден именно для моего типа личности, даже если он не подходит 99 процентам других учеников. И эти цифровые учителя никогда не сорвутся, не накричат на меня, не забастуют. Остается, правда, неясным, зачем мне знать термодинамику или геометрию в мире, где есть такие крутые компьютерные программы[217].

Даже доктора являются потенциальными жертвами алгоритмов. Первая и главная задача большинства врачей – правильно диагностировать болезнь и предложить лучшее из практикуемых лечений. Если я прихожу в клинику с жаром и диареей, у меня, возможно, отравление. Впрочем, те же симптомы могут быть при желудочном гриппе, холере, дизентерии, малярии, раке или какой-то еще неизвестной болезни. Терапевт должен поставить верный диагноз за несколько минут, так как только они оплачены моей медицинской страховкой. Их хватает только на пару вопросов и беглый осмотр. Затем доктор соотносит добытые им скудные данные с моей медицинской историей и со всеми существующими человеческими недугами. Увы, даже самый внимательный врач не может помнить обо всех моих прошлых недомоганиях и обследованиях и не может одинаково разбираться во всех болезнях и лекарствах или быть в курсе всех свежих статей во всех медицинских журналах. Вдобавок к этому иногда врач переутомлен, или голоден, или даже нездоров, что сказывается на его концентрации. Неудивительно, что доктора иногда ошибаются в диагнозах или назначают не слишком действенное лечение.

И тут на сцене появляется знаменитый Watson разработки IBM – система искусственного интеллекта, которая в 2011 году одержала победу в телевизионной игре-викторине Jeopardy!, обыграв двух ее прежних рекордсменов. Сейчас Watson готовят к более серьезной работе, в частности к диагностированию болезней. Такой искусственный интеллект, как Watson, имеет колоссальные потенциальные преимущества перед докторами из плоти и крови. Во-первых, искусственный интеллект способен хранить информацию обо всех известных человечеству болезнях и лекарствах. Он может ежедневно пополнять эту базу данных не только результатами последних исследований, но и медицинской статистикой, предоставляемой всеми мировыми клиниками и больницами, подключенными к системе.





Система искусственного интеллекта Watson обыгрывает двух соперников из плоти и крови в телеигре Jeopardy! 2011 год



Во-вторых, Watson будет прекрасно знаком не только с каждым звеном моего генома и каждым эпизодом моей медицинской истории, но и с геномами и медицинскими историями моих родителей, братьев, сестер, кузенов, соседей и друзей. Watson мгновенно проверит, не посещал ли я недавно тропическую страну, не страдаю ли частыми желудочно-кишечными расстройствами, не было ли в моей семье случаев рака кишечника и не жалуются ли этим утром на диарею многие другие жители моего города.

В-третьих, Watson никогда не отключится из-за переутомления, голода или нездоровья, и времени у него на меня будет навалом. Я смогу преспокойно сидеть у себя дома на диване и отвечать на сотни его вопросов, в подробностях описывая свои ощущения… Для большинства пациентов (пожалуй, за исключением ипохондриков) это отличная новость. Но если сегодня вы поступаете в медицинский институт, рассчитывая всю жизнь прослужить семейным врачом, вам следует еще раз крепко подумать. С таким Ватсоном не нужны будут никакие Шерлоки.

Дамоклов меч нависает не только над врачами общей практики, но и над специалистами. Действительно, заменить докторов, специализирующихся в относительно узких областях, таких как диагностика рака, будет несложно. В проведенном недавно эксперименте компьютерный алгоритм верно диагностировал рак легких в 90 процентах проанализированных случаев, тогда как у живых медиков коэффициент успеха не превышал 50 процентов[218]. Фактически, будущее уже здесь. Компьютерные томограммы и маммограммы обязательно проверяются специальными алгоритмами, которые снабжают докторов «вторым мнением» и подчас выявляют не замеченные ими опухоли[219].

Watson и ему подобные не выставят за дверь весь медперсонал завтра утром, так как все еще не решен ряд серьезных технических проблем. Но эти проблемы – какими бы сложными они ни были – будут однажды решены. Подготовка человека к врачебной деятельности – трудоемкий и дорогой процесс, занимающий годы. После примерно десятка лет учебы и интернатуры вы получаете одного доктора. Если хотите получить двух докторов – придется повторить процесс. Если же и когда будут решены технические проблемы, из-за которых буксует Watson, то результатом будет бесконечное множество докторов, доступных в каждом уголке мира в режиме 24/7. Пусть даже этот проект обойдется в 100 миллиардов долларов, это все равно будет намного дешевле, чем обучение медицине людей.

Конечно, исчезнут не все доктора. Сферы врачевания, где необходим более творческий подход, чем при обычной диагностике, в обозримом будущем останутся за человеком. Подобно современным армиям, наращивающим численность своих элитных подразделений специального назначения, службы здравоохранения, вероятно, откроют много новых вакансий, которые будут аналогами «рейнджеров»[220] и «тюленей»[221]. Но так же как армии перестают нуждаться в миллионах рядовых солдат, службы здравоохранения перестанут испытывать потребность в миллионах рядовых врачей.



А в миллионах рядовых фармацевтов здравоохранение будет нуждаться еще меньше, чем во врачах. В 2011 году в Сан-Франциско была открыта аптека, где клиентов обслуживает один робот. За считаные секунды он обрабатывает рецепты посетителей вместе с подробной информацией об уже принимаемых ими препаратах и об их возможной предрасположенности к аллергии. Робот проверяет, нет ли у новых препаратов несовместимости с теми, что были прописаны раньше, или с организмом пациента, и затем отпускает требуемые лекарства. За первый год функционирования робот-фармацевт обработал два миллиона рецептов, ни разу не допустив ошибки. Аптекари из плоти и крови ошибаются в среднем в 1,7 процента случаев[222].

Некоторые считают, что, даже если алгоритмы сумеют превзойти докторов и фармацевтов в чисто профессиональном плане, они никогда не смогут заменить их человеческого отношения. Если результаты томографии покажут, что у вас рак, вы предпочтете узнать это от бездушной машины или от доктора, чуткого к вашему эмоциональному состоянию? А как насчет того, чтобы узнать это от чуткой машины, которая подберет слова именно к вашему типу личности и вашим чувствам? Вспомните, что организмы – это алгоритмы, и Watson способен будет диагностировать ваше эмоциональное состояние с той же точностью, с какой диагностирует ваши опухоли.

Обычный врач угадывает эмоциональное состояние больного по внешним признакам, таким как выражение лица или интонации голоса. Watson сможет не только точнее, чем человек, считывать эти внешние признаки, но еще и анализировать многочисленные внутренние показатели, скрытые от человеческого восприятия. Сопоставляя информацию о вашем кровяном давлении и мозговой активности с массой других биометрических данных, Wat s o n будет безошибочно определять, что вы чувствуете. И благодаря статистике, сформированной на основании миллионов предшествующих социальных контактов, сумеет сказать именно те слова, которые вам необходимо услышать, и именно тем тоном, которого требует ситуация. При всей своей хваленой эмоциональной чуткости люди часто поддаются собственным эмоциям и реагируют неправильно. Например, если собеседник озлоблен, начинают кричать, а если испуган, впадают в панику. Wat s on от этого застрахован. Лишенный эмоций, он всегда настроится на ваше эмоциональное состояние наилучшим образом.

Частично эта идея уже была воплощена в жизнь некоторыми клиентскими службами, вроде тех, пионером среди которых была корпорация Mattersight из Чикаго. Она рекламирует свою продукцию так: «Случалось ли вам заканчивать разговор с ощущением, будто вы с собеседником совпали? Это волшебное чувство – результат установления связи между двумя личностями. Mattersight дарит людям это чувство ежедневно, в колл-центрах по всему миру»[223]. Когда вы звоните в клиентскую службу с вопросом или претензией, обычно проходит сколько-то секунд, прежде чем ваш звонок перенаправляется оператору. В системах Mattersight эту операцию производит умный алгоритм. Вы первым делом сообщаете о причине своего обращения. Алгоритм анализирует ваши слова и модуляции голоса и делает заключение не только о вашем сиюминутном настроении, но и о типе вашей личности – интроверт вы или экстраверт, скандалист или тихоня. Затем алгоритм соединяет вас с тем оператором, который наилучшим образом соответствует вашему характеру и расположению духа. Алгоритм знает, кто вам нужен: добрая душа, готовая терпеливо внимать жалобам, или рациональный практик, способный предложить самое быстрое техническое решение. Правильный подбор оператора – это и довольные клиенты, и сэкономленные время и средства[224].





Бесполезный класс




Самым важным для экономики XXI века может стать вопрос о том, что же делать со всеми этими бесполезными людьми. Чем будут заниматься человеческие существа с высокоразвитым сознанием, когда не обладающие сознанием сверхумные алгоритмы почти все станут делать лучше?

Испокон веков рынок труда делился на три основных сегмента: сельское хозяйство, промышленность и сфера услуг. Примерно до 1800 года народ был по преимуществу занят в сельском хозяйстве, и лишь небольшая его часть работала в индустрии и в сфере услуг. Во время промышленной революции крестьяне в развитых странах бросили стада и пашни и устремились в большинстве своем на фабрики и частично в сферу услуг. В последние десятилетия развитые страны пережили еще одну революцию – исчезновение рабочих профессий в промышленности сопровождалось стремительным расширением сегмента услуг. В 2010 году всего два процента американцев были заняты в сельском хозяйстве и двадцать процентов – в промышленности, тогда как семьдесят восемь процентов работали учителями, врачами, дизайнерами вебсайтов и т. п. Чем же мы займемся, когда алгоритмы будут учить, лечить и создавать сайты лучше, чем мы?

Это отнюдь не новый вопрос. Со времени промышленной революции люди жили под страхом, что механизация приведет к массовой безработице. До сих пор этого не случилось, поскольку взамен исчезнувших профессий возникали новые и со многим люди справлялись лучше, чем машины. Но это ведь не закон природы, и нет никаких гарантий, что в дальнейшем все будет происходить аналогичным образом. Человек обладает способностями двух видов: физическими и умственными. Пока что машины соревновались с людьми лишь в физической сноровке, и всегда существовало множество задач для ума, в решении которых у людей не было конкурентов. В итоге машины взяли на себя чисто физическую работу, а люди сосредоточились на деятельности, требовавшей когнитивных навыков. Но что случится, если алгоритмы обойдут нас в запоминании, анализе и распознавании образов?

Представление, будто бессознательным алгоритмам никогда не угнаться за гениальной человеческой мыслью, – не что иное, как самообман. Сегодняшний научный ответ на эту пустую мечту может быть сведен к трем простым положениям:

1. Организмы суть алгоритмы. Каждое животное, включая Homo Sapiens, – это собрание органических алгоритмов, сформированных естественным отбором за миллионы лет эволюции.

2. Алгоритмические вычисления не зависят от материалов, из которых сделан калькулятор. На каких бы счетах вы ни считали – деревянных, железных или пластмассовых, – если к двум прибавить еще два, получится четыре.

3. Следовательно, нет оснований полагать, что алгоритмы органические могут что-то такое, чего неорганические алгоритмы никогда не смогут повторить или превзойти. Если вычисления правильны, то какая разница, где работают алгоритмы – в углеродной или кремниевой среде?



Да, в наши дни органические алгоритмы еще многое делают лучше, чем неорганические, и эксперты не раз заявляли, что те или иные вещи «навсегда» останутся недосягаемыми для неорганических алгоритмов. Однако жизнь показывает, что «навсегда» часто не превышает пары десятилетий. Еще недавно распознание лиц было излюбленным примером того, что легко дается даже младенцам, но не по силам самым мощным компьютерам. Сегодня программы распознавания лиц способны идентифицировать людей гораздо быстрее и эффективнее, чем люди. Разведывательные и полицейские службы используют такие программы повседневно – для сканирования километров видеопленок с камер наблюдения и поиска подозреваемых и преступников.

Когда в 1980-х годах обсуждалась уникальность природы человека, в качестве главного доказательства его превосходства обычно приводились шахматы. Существовало убеждение, что роботу никогда не обыграть живого шахматиста. 10 февраля 1996 года суперкомпьютер Deep Blue разработки IBM взял верх над чемпионом мира Гарри Каспаровым, отправив на свалку и эту заявку на человеческое превосходство.

Создатели хорошо подготовили Deep Blue, начинив его не только правилами игры, но и подробнейшими инструкциями относительно шахматных стратегий. Искусственный интеллект нового поколения предпочитает советам людей машинное обучение. В феврале 2015 года компьютерная программа, разработанная подразделением Deep Mind компании Google, самостоятельно освоила 49 классических игр Atari. Один из ее разработчиков, доктор Демис Хассабис, объяснил: «Единственная информация, которая была предоставлена системе, – это необработанные пиксели на экране и идея, что нужно набирать очки. Все остальное она должна была просчитать сама». Программа ухитрилась выучить правила всех предложенных ей игр от «Пакмана» и «Космических захватчиков» до автогонок и тенниса. И играла в них не хуже, а иногда и лучше людей, подчас применяя стратегии, которые никогда не приходили в голову игроку-человеку[225].

Немного погодя искусственный интеллект отметился еще более сенсационным достижением: созданная DeepMind программа AlphaGo обучилась играть в древнюю китайскую настольную игру го, значительно более сложную, чем шахматы. Го долго считалась слишком сложной для искусственного интеллекта. В марте 2016 года в Сеуле состоялся матч между AlphaGo и южнокорейским мастером игры в го Ли Седолем. AlphaGo обыграла Ли со счетом 4:1, применив оригинальные стратегии, ошеломившие экспертов. Если до матча профессиональные гоисты почти не сомневались, что Ли победит, то проанализировав ходы AlphaGo, они пришли к выводу, что игра окончена: люди могут попрощаться с надеждой выиграть у AlphaGo и тем более ее потомков.