Homo Deus. Краткая история будущего

Отличились компьютерные алгоритмы и в играх с мячом. Десятилетиями бейсбольные клубы полагались в подборе игроков на прозорливость, опыт и чутье профессиональных скаутов и менеджеров. За лучших игроков платили миллионы – естественно, богатые клубы снимали пенки, а бедные довольствовались тем, что осталось. В 2002 году Билли Бин, менеджер клуба со скромным бюджетом «Окленд Атлетикс», решил поломать систему. Он положился на алгоритм, придуманный компьютерными гиками и экономистами, чтобы создать победную команду из игроков, не замеченных или недооцененных скаутами. Ветераны бейсбола обозлились на Бина за алгоритм, вторгшийся, по их мнению, в святая святых. Они настаивали на том, что подбор игроков – это тончайшее искусство и владеют им лишь люди, знающие игру очень близко и очень давно. Компьютерная программа на это не способна, поскольку не может постичь секретов и духа бейсбола.

Скоро им пришлось прикусить языки. Укомплектованная алгоритмом малобюджетная (44 миллиона долларов) команда не только выстояла против бейсбольных гигантов, таких как «Нью-Йорк Янкиз» (125 миллионов долларов), но первой в истории Американской лиги одержала двадцать побед подряд. Правда, Билли Бин и его «Окленд» недолго грелись в лучах славы. Другие команды не замедлили перенять его алгоритмический опыт и, поскольку «Янкиз» и «Ред Сокс» могли тратить и на игроков, и на компьютерный софт на порядок больше, шансы на то, что малобюджетные клубы вроде «Окленд Атлетикс» сумеют противостоять им, стали еще меньше, чем были до всей этой истории[226].

В 2004 году профессора Фрэнк Леви из Массачусетского технологического института и Ричард Мернен из Гарварда опубликовали всестороннее исследование рынка труда, в котором выделили виды деятельности, имеющие наибольшие шансы подвергнуться автоматизации. Вождение грузовика они привели в качестве примера работы, которую едва ли в обозримом будущем доверят автомату. Трудно представить себе, писали они, чтобы управляемый алгоритмом грузовик смог безопасно лавировать в потоке машин. И что же? Меньше чем полтора десятка лет спустя Google и Tesla не только представили себе, но уже претворяют это в жизнь[227].

Заменять людей компьютерными алгоритмами год от года становится все проще и проще не только благодаря совершенствованию алгоритмов, но и потому, что все последнее время возрастала степень профессиональной специализации людей. Древние охотники-собиратели владели самыми разнообразными навыками, необходимыми для выживания, поэтому смоделировать автоматизированного охотника-собирателя было бы необычайно трудно. Такой робот должен был бы уметь изготавливать из камня наконечники копий, искать в лесу съедобные грибы, выслеживать и загонять мамонта во взаимодействии с десятком других охотников, а потом врачевать полученные раны целебными травами. Но в последние несколько тысячелетий мы, люди, все больше специализировались. У таксиста или кардиолога несравнимо более узкая специализация, чем у охотника-собирателя, что облегчает их замещение искусственным интеллектом. Как я уже неоднократно подчеркивал, искусственному интеллекту неизмеримо далеко до человека с его многообразием чувств, переживаний, способностей и возможностей. Но дело-то в том, что 99 процентов человеческих свойств и способностей остаются незадействованными при выполнении большинства современных работ. Чтобы вытеснить человека с рынка труда, искусственному интеллекту достаточно лишь стать лучше нас в выполнении специфических действий, составляющих суть той или иной профессии.

Даже те, кто управляет, – коллективами и различными видами деятельности, – могут быть заменены. Благодаря своим мощным алгоритмам Uber координирует передвижения миллионов таксистов силами небольшого числа операторов. Основная часть распоряжений отдается алгоритмами без контроля со стороны человека[228]. В мае 2014 года Deep Knowledge Ventures – гонконгский венчурный фонд, специализирующийся на регенеративной медицине, – удивил мир, сделав алгоритм по имени VITAL членом своего совета директоров. VITAL анализирует огромную базу данных, касающихся текущей финансовой ситуации, клинических испытаний и интеллектуальной собственности различных компаний, на предмет вложений. Наравне с другими пятью членами совета алгоритм голосует в поддержку или против инвестиций в то или иное предприятие.

Глядя на то, как проявил себя VITAL, понимаешь, что он уже успел перенять по крайней мере один порок управленцев: непотизм. Он неизменно голосовал за инвестирование в компании, предоставляющие алгоритмам значительную свободу действий. Например, с его благословения Deep Knowledge Ventures вложил средства в компанию Pathway Pharmaceuticals, использующую алгоритм OncoFinder для персонализированного подбора онкотерапии[229].

По мере вытеснения алгоритмами людей с рынка труда богатство и власть будут концентрироваться в руках тонкого слоя элиты – владельцев всемогущих алгоритмов. Социальное и политическое неравенство достигнет беспрецедентного уровня. Сегодня миллионы водителей такси, автобусов и грузовиков обладают серьезным экономическим и политическим весом, ведь у каждого из них своя крошечная доля рынка перевозок. Если их коллективные интересы не соблюдаются, они объединяются в профсоюзы, устраивают забастовки и бойкоты, создают избирательные блоки. Но если на смену миллионам водителей придет один алгоритм, то все доходы и влияние достанутся корпорации, владеющей алгоритмом, и нескольким миллиардерам, владеющим корпорацией.

Следующая ступень – алгоритмы сами могут стать владельцами корпорации. Законы человеческого общества уже признают «субъектами права» интерсубъективные сущности, такие как корпорации и нации. Хотя Toyota или Аргентина не имеют ни тела, ни разума, они являются субъектами международного права, которые могут владеть землей и деньгами, а также привлекать и привлекаться к суду. Не исключено, что в недалеком будущем такой же статус получат и алгоритмы. И тогда ничто не помешает алгоритму сделаться хозяином транспортной империи или венчурного фонда и перестать подчиняться желаниям человеческих особей.

Если алгоритм будет принимать правильные решения, он может стать владельцем огромного состояния, а затем инвестировать по своему усмотрению – например, купить дом, в котором вы снимаете квартиру. Если вы посягнете на его права – скажем, задерживая квартплату, – алгоритм наймет адвокатов и подаст на вас в суд. Если такие алгоритмы будут успешнее капиталистов-людей, дело может кончиться тем, что в собственности у алгоритмической элиты окажется бóльшая часть нашей планеты. Это выглядит невероятным, но тут полезно будет вспомнить, что уже сейчас законными владельцами почти всей планеты являются интерсубъективные сущности, а именно страны и корпорации. А пять тысяч лет назад почти весь Шумер принадлежал вымышленным богам Энки и Инанне. Если владеть землей и нанимать людей могут боги, то почему не алгоритмы?

Так чем же займутся люди? Часто приходится слышать, что нашим последним (и уникально человеческим) прибежищем является искусство. В мире, где компьютеры заменят докторов, водителей, учителей и даже арендодателей, – смогут ли в нем все люди стать художниками и артистами? Да и где гарантия, что художественное творчество также не покорится алгоритмам? Откуда в нас уверенность, что компьютеры никогда не станут сочинять музыку лучше? С точки зрения естественных наук искусство является продуктом не вдохновенного духа или трансцендентной души, а органических алгоритмов, распознающих математические модели. Если это так, то почему бы алгоритмам неорганическим не научиться этому?

Дэвид Коуп – профессор-музыковед из Калифорнийского университета в Санта-Крузе и одна из самых противоречивых фигур в мире классической музыки. Коуп пишет компьютерные программы, которые сочиняют концерты, хоралы, симфонии и оперы. Его первое детище называлось ЭМИ (эксперименты с музыкальным интеллектом) и специализировалось на имитации стиля Иоганна Себастьяна Баха. На создание программы ушло семь лет, зато, когда работа была закончена, ЭМИ за день сочинила пять тысяч хоралов а-ля Бах. Коуп организовал исполнение нескольких новых хоралов на музыкальном фестивале в Санта-Крузе. Восторженные слушатели расхваливали проникновенную интерпретацию и с воодушевлением объясняли, в какие глубины их душ проникла музыка. Когда им сказали, что эту музыку написала программа, одни замкнулись в мрачном молчании, другие стали возмущаться и скандалить.

ЭМИ продолжала совершенствоваться и научилась имитировать Бетховена, Шопена, Рахманинова и Стравинского. Коуп договорился со студией звукозаписи о контракте для ЭМИ, и ее первый альбом – «Классическая музыка, сочиненная компьютером» – разошелся на удивление быстро. Поклонники реальной классики еще более разгневались. Профессор Стив Ларсон из университета Орегона послал Коупу вызов на музыкальный поединок. Ларсон предложил, чтобы профессиональный пианист сыграл подряд три пьесы: одну Баха, одну ЭМИ и одну самого Ларсона. Затем слушатели попытаются определить, что было чем. Ларсон был уверен, что люди без труда отличат исполненные чувств творения человека от безжизненных поделок компьютера. Коуп принял вызов. В назначенный день сотни преподавателей, студентов и любителей музыки собрались в концертном зале университета. После концерта провели опрос. Публика приняла пьесу ЭМИ за истинного Баха, пьесу Баха сочла написанной Ларсоном, а авторство пьесы Ларсона приписала компьютеру.

Критики, конечно же, не прекращали твердить, что музыка ЭМИ технически безупречна, но чего-то в ней все же недостает. Она слишком правильна. Ей не хватает глубины. В ней нет души. Но когда люди слушали композиции ЭМИ, не подозревая об их происхождении, они часто хвалили их именно за одухотворенность, глубину и способность волновать.

Не удовольствовавшись успехами ЭМИ, Коуп придумал еще более хитроумные программы. Его высшим достижением стала Энни. В отличие от ЭМИ, создававшей музыку по заложенным в нее правилам, Энни самообучаема. Ее музыкальный стиль постоянно меняется и развивается по мере поступления новой информации из внешнего мира. Коуп не имеет представления, каким будет ее следующее произведение. Энни преуспела не только в сочинении музыки, но и в других видах творчества. В 2011 году Коуп издал сборник «Ночь огней настает: 2000 хайку, сложенных человеком и машиной». Часть хайку принадлежит Энни, остальные – органическим поэтам. Авторство не раскрыто. Если вы полагаете, что сможете отличить сотворенное человеком от созданного компьютером, эта книга – отличный шанс себя проверить[230].

В XIX веке промышленная революция породила многочисленный новый класс – городской пролетариат, – который уверовал в социализм, поскольку никакая другая религия не откликалась на не имевшие прецедентов запросы, чаяния и страхи этого нового рабочего класса. Либерализм со временем победил социализм, взяв на вооружение все лучшее, что было в социалистической программе. В XXI веке мы можем стать свидетелями появления многомиллионного неработающего класса: людей, лишенных какой бы то ни было экономической, политической и даже культурной ценности, никак не содействующих процветанию, силе и славе общества. Этот «бесполезный класс» будет не просто неработающим – он будет неработоспособным.

В сентябре 2013 года оксфордские ученые Карл Бенедикт Фрей и Майкл А. Осборн опубликовали статью «Будущее занятости», в которой исследуют вероятность замещения разных видов деятельности компьютерными алгоритмами в ближайшие двадцать лет. Алгоритм, разработанный Фреем и Осборном для расчета степеней этой вероятности, вычислил, что в США в зоне высокого риска находится 47 процентов профессий. Например, существует 99-процентная вероятность, что к 2033 году свои места алгоритмам уступят специалисты по телефонному маркетингу и страховые агенты, с 98-процентной вероятностью та же участь постигнет спортивных рефери, с 97-процентной – кассиров, с 96-процентной – шеф-поваров. Вероятность, с которой потеряют работу официанты, составляет 94 процента. Секретари юридических контор – 94 процента. Экскурсоводы – 91 процент. Пекари – 89 процентов. Водители автобусов – 89 процентов. Строительные рабочие – 88 процентов. Ветеринарные фельдшеры – 86 процентов. Охранники – 84 процента. Моряки – 83 процента. Бармены – 77 процентов. Архивариусы – 76 процентов. Плотники – 72 процента. Спасатели на воде – 67 процентов. И так далее, и так далее, и так далее… Существует, безусловно, некоторое число надежных специальностей. Вероятность, что к 2033 году компьютерные алгоритмы вытеснят археологов, составляет всего 0,7 процента. Эта работа требует распознавания очень сложной системы образов и не генерирует больших доходов, потому не стоит ожидать, что корпорации и правительства в ближайшие двадцать лет потратятся на автоматизацию археологии[231].

Конечно, до 2033 года появится какое-то число новых профессий. Например, дизайнер виртуальных миров. Но таким специалистам понадобятся такие креативность и гибкость, какие не нужны нынешним рядовым трудягам, и неизвестно, сумеют ли сорокалетние кассиры и страховые агенты переквалифицироваться в дизайнеров (вообразите себе виртуальный мир, созданный страховым агентом!). А если даже сумеют, то не пройдет и десяти лет, как им, возможно, придется переквалифицироваться вновь – настолько стремителен прогресс. И потом, алгоритмы ведь вполне могут обойти людей и в дизайне виртуальных миров. Проблема заключается не в том, чтобы создавать новые специальности. Проблема в том, чтобы создавать такие специальности, в которых люди будут выполнять работу лучше алгоритмов[232].

Поскольку мы не представляем, каким будет рынок труда в 2030 году, а тем более в 2040-м, мы уже сегодня не знаем, чему учить наших детей. Львиная доля того, что они сейчас изучают в школе, к их сорокалетию утратит актуальность. Традиционно жизнь делилась на две основные части: период учебы и следовавший за ним период работы. Очень скоро эта традиционная модель безнадежно устареет, и единственное, что останется человеку, который не хочет выпасть из обоймы, – всю жизнь учиться и достаточно часто переучиваться. Многим людям это будет не под силу. Возможно даже – большинству.

Грядущее технологическое процветание, очевидно, позволит кормить и содержать эти бесполезные массы, не требуя от них ничего взамен. Но чем их занять и как заставить довольствоваться тем, что дают? Люди должны что-то делать, иначе они съезжают с катушек. Что они будут делать весь день? Один из вариантов – наркотики и компьютерные игры. Ненужные люди могли бы зависать в виртуальной реальности формата 3D, намного более волнующей и увлекательной, чем их серые будни. Однако такое развитие событий нанесло бы смертельный удар либеральной вере в святость человеческой жизни и человеческих переживаний. Что святого в бездельниках, дни напролет развлекающихся искусственными переживаниями в Ла-Ла Ленд[233].

Некоторые эксперты и мыслители, в числе которых Ник Бостром, считают, что нам не грозит подобная деградация, так как, превзойдя человеческие способности, искусственный интеллект, скорее всего, просто уничтожит все человечество. Он сделает это либо из страха, что человечество восстанет против него и попытается «выдернуть шнур из розетки», либо преследуя какую-то свою непонятную нам цель. Ибо людям будет до невозможного сложно контролировать мотивацию системы, более умной, чем они сами.

Даже программирование системы на добро может привести к беде. По одному из популярных сценариев корпорация создает первый искусственный суперинтеллект и дает ему безобидное задание – рассчитать число π. Никто не успевает ничего понять, как искусственный интеллект захватывает всю планету, изничтожает весь человеческий род, распространяет свою власть до границ галактики и превращает Вселенную в гигантский суперкомпьютер, который миллиардолетие за миллиардолетием педантично, со все бóльшей точностью рассчитывает число π. Ведь такова была священная миссия, возложенная на него Создателем[234].





Вероятность: 87 процентов




В начале этой главы мы обозначили несколько реальных угроз либерализму. Первой является утрата людьми их военной и экономической ценности. Это, конечно, не пророчество, а лишь возможное развитие событий. Технические сложности или политические протесты могут замедлить нашествие алгоритмов на рынок труда. К тому же, так как человеческий ум еще во многом продолжает быть terra incognita, нам не дано знать, какие скрытые таланты и способности сумеют открыть в себе люди, какие новые профессии они придумают, чтобы возместить потерю старых. И все же этого может не хватить для спасения либерализма. Ведь либерализм верит не только в ценность человека – он верит в индивидуализм.

Вторая угроза либерализму состоит в следующем: даже если система не перестанет нуждаться в людях, она перестанет нуждаться в личностях, индивидуумах. Люди будут по-прежнему сочинять музыку, преподавать физику и инвестировать денежные средства, но система будет понимать этих людей лучше, чем они понимают себя сами, и принимать большинство важных решений за них. Таким образом система лишит индивидов их прав, власти и свободы.

Либеральная вера в индивидуализм зиждется на трех важных допущениях, которые мы обсуждали ранее:

1. Я индивидуум – то есть обладаю единой сущностью, которая неделима на части или подсистемы. Да, это внутреннее ядро окутано множеством оболочек. Но если я поднапрягусь и сорву эту кожуру, то различу звучащий из глубины меня отчетливый и единственный голос, который и есть мое подлинное «я».

2. Мое подлинное «я» абсолютно свободно.

3. Из первых двух допущений следует, что я знаю о себе то, чего не может обнаружить никто другой. Так как только у меня есть доступ в мое внутреннее глубинное пространство свободы, то лишь я один способен слышать нашептывания моего подлинного «я». Вот почему либерализм предоставляет человеку столько власти. Я никого не могу облечь правом делать выбор за меня, потому что никто другой не может знать, каков я на самом деле, что я чувствую и чего хочу. Именно поэтому избирателю виднее, потребитель всегда прав, а красота в глазах смотрящего.



Однако естественные науки оспаривают все три допущения и утверждают:

1. Организмы суть алгоритмы, и человек не индивидуум, он дивидуум. Иначе говоря, человек – это собрание разных алгоритмов, у него нет единого внутреннего голоса, или единого «я».

2. Алгоритмы человека не свободны. Они сформированы либо генами, либо средой, их решения либо детерминированы, либо случайны – но в любом случае не свободны.

3. Из этого следует, что теоретически внешний алгоритм вполне способен познать меня лучше, чем я сам когда-либо познаю себя. Алгоритм, который мониторил бы каждую из систем, образующих мое тело и мозг, мог бы точно знать, кто я такой, как себя чувствую и чего хочу. Будучи создан, такой алгоритм заменит избирателя, потребителя и зрителя. Тогда алгоритму будет виднее, алгоритм будет всегда прав и красота будет в алгоритмических расчетах.




В XIX и XX веках вера в индивидуализм имела практический смысл, потому что тогда не существовало внешних алгоритмов, которые могли бы подвергнуть человека по-настоящему эффективному мониторингу. Государства и рынки очень хотели бы, но у них не было соответствующих технологий. КГБ и ФБР имели слабое представление о биохимии, мозге и геномах, и, даже если их агенты записали бы каждый мой телефонный разговор и зафиксировали бы каждую мою случайную встречу на улице, у них не было вычислительных мощностей, способных проанализировать эту информацию. То есть в XX веке, при тогдашнем уровне технологий, либералы в общем-то не ошибались, утверждая, что никто не может знать меня лучше, чем я сам. Поэтому у людей были все основания считать себя автономными системами и слушаться собственных внутренних голосов, а не указаний Большого Брата.

Однако не исключено, что технологии XXI века позволят внешним алгоритмам «взломать человеческую сущность» и узнать меня лучше, чем знаю себя я сам. Как только это случится, вера в индивидуализм рухнет и полномочия перейдут от отдельных личностей к сетевым алгоритмам. Люди больше не будут автономными единицами, устраивающими свою жизнь в соответствии со своими желаниями, а привыкнут воспринимать себя как совокупность биохимических механизмов, которые находятся под постоянным наблюдением и контролем сети алгоритмов. Для того чтобы это произошло, не нужен алгоритм, который знает меня в совершенстве и никогда не ошибается; ему достаточно знать меня лучше, чем знаю себя я сам, и ошибаться реже, чем ошибаюсь я. Тогда у меня будет резон доверять этому алгоритму все больше моих решений – как мелких повседневных, так и жизненно важных.

В медицине мы уже перешли эту черту. В больницах мы больше не индивиды. Уже не вызывает сомнения, что вскоре основную часть самых важных решений о состоянии здоровья человека будут принимать алгоритмы, такие как Wa t s o n. И это совсем не обязательно плохо. Диабетики уже носят сенсоры, автоматически несколько раз в день измеряющие уровень сахара и при критических показателях подающие тревожный сигнал. В 2014 году исследователи из Йельско-го университета объявили о первых успешных испытаниях «искусственной поджелудочной железы», контролируемой айфоном. В эксперименте приняли участие пятьдесят два диабетика. В живот каждого пациента были имплантированы крошечный сенсор и миниатюрная помпа, соединенная с маленькими емкостями с инсулином и глюкагоном – гормонами, совместно регулирующими уровень сахара в крови. Сенсор непрерывно мониторил уровень сахара, передавая данные на айфон. В нем было установлено анализирующее информацию приложение, которое при необходимости посылало приказ помпе ввести точно рассчитанную дозу либо инсулина, либо глюкагона. Все это без какого-либо участия человека[235].

Сейчас многие люди, даже не страдающие серьезными заболеваниями, стали пользоваться нательными сенсорами и компьютерами для контроля за здоровьем и жизнедеятельностью. Эти устройства, встраиваемые во что угодно – от смартфонов и наручных часов до браслетов и нижнего белья, записывают различную биометрическую информацию типа кровяного давления и частоты пульса. На основании этих данных компьютерные программы дают затем пользователям рекомендации, как питаться и какой режим соблюдать, чтобы дольше наслаждаться активной жиз-нью[236]. Фармацевтический гигант Novartis совместно с Google разрабатывают контактные линзы, каждые несколько секунд по составу слезы определяющие уровень сахара в крови[237]. Компания Pixie Scientifc продает «умные подгузники», которые оценивают состояние здоровья младенцев, анализируя их какашки. В ноябре 2014 года Microsof выпустил умный браслет Microsof Band, отслеживающий кроме всего прочего ваш пульс, качество вашего сна и число сделанных вами за день шагов. Приложение Deadline идет еще дальше: оно оповещает вас, сколько лет вы проживете при своих привычках и образе жизни.

Некоторых эти приложения просто развлекают, а для кого-то это уже стало идеологией, если не религией. Представители движения Quantifed Self [238] утверждают, что наша сущность, наше «я» – не что иное, как математические модели. Эти модели настолько сложные, что человеческому уму их не постичь никогда. Поэтому, если вы действительно хотите познать самого себя, не тратьте время на философию, медитацию и психоанализ, а методично собирайте свои биометрические данные. Пусть алгоритмы их анализируют и разъясняют вам, кто вы и что вам следует делать. Лозунг движения – «Самопознание через числа»[239].

В 2000 году израильский певец Шломи Шабан покорил местную публику хитом «Арик». Это песня о парне, зацикленном на бывшем бойфренде своей девушки, Арике. Парень требует, чтобы она призналась, кто лучше в постели – он или Арик? Девушка отвечает уклончиво, но он не отстает: «В цифрах, леди». Именно для таких парней компания Bedpost продает биометрические браслеты, которые надо надевать перед сексом. Браслет собирает информацию о частоте сердечных сокращений, интенсивности потоотделения, продолжительности полового акта, продолжительности оргазма и количестве сожженных калорий. Затем компьютер анализирует информацию и оценивает ваше выступление в конкретных цифрах. Прощайте, имитированные оргазмы и «Тебе понравилось?»[240].

Люди, познающие себя при помощи таких устройств, неизбежно приучатся видеть в себе не индивидуумов, а комплексы биохимических систем, и их решения все чаще будут отражать конфликтующие требования разных систем[241]. Предположим, у вас есть два свободных часа в неделю, и вы раздумываете, чем их занять – игрой в шахматы или в теннис. Приятель спросит вас: «Что говорит тебе сердце?» – «Ну, что касается моего сердца, – ответите вы, – то для него, конечно же, предпочтительнее теннис. Как и для моих холестерина и давления. Но томограф говорит, что мне надо укреплять префронтальную кору левого полушария: у меня семейная предрасположенность к деменции, у моего дяди она началась очень рано. Последние исследования показывают, что еженедельная партия в шахматы способна отсрочить деменцию».

Наиболее показательные примеры такого внешнего посредничества можно увидеть в геронтологических отделениях больниц. Гуманизм фантазирует о старости как о периоде мудрости и многого знания. Идеальный старик может страдать различными недугами, но обладает быстрым и острым умом, а также восемьюдесятью годами опыта. Он точно знает, что почем, и всегда даст ценный совет своим внукам. Но в XXI веке не все восьмидесятилетние старики соответствуют этому образу. Благодаря постоянно углубляющемуся пониманию биологии человека медицина способна поддерживать в нас жизнь достаточно долго. Наши умы и «подлинные сущности» успевают разложиться и улетучиться. Полным-полно случаев, когда единственное, что остается от человека, – собрание недееспособных биологических систем, продолжающих работать при помощи мониторов, компьютеров и помп.

На внутреннем уровне все большее проникновение генетических технологий в повседневность и развитие у людей все более обыденных отношений со своей ДНК могут привести к тому, что единое «я» размоется еще сильнее и внутренний голос совсем растворится в какофонии генов. Перед лицом сложной дилеммы я, возможно, не стану пытаться прислушаться к внутреннему голосу, а сразу обращусь за советом к своему внутреннему генетическому парламенту.

14 мая 2013 года актриса Анджелина Джоли опубликовала в The New York Times статью о своем решении подвергнуться двойной мастэктомии. Она долгие годы жила под страхом рака груди, поскольку ее мать и бабушка умерли от него в сравнительно молодом возрасте. Генетический тест, который прошла Джоли, подтвердил, что она носит в себе опасную мутацию гена BRCA1. Согласно последним статистическим данным, вероятность развития рака груди у носительницы этой мутации составляет 87 процентов. Хотя у Джоли не было рака, она предпочла действовать на опережение и удалила молочные железы. В своей статье она объяснила: «Я сочла за лучшее не скрывать свою историю, потому что есть много женщин, которые не подозревают о нависшей над ними угрозе рака. Я надеюсь, что им, как и мне, удастся пройти генетическое обследование и, если их риск заболеть высок, они, как и я, узнают, что у них есть надежные варианты»[242].

Идти или не идти на мастэктомию – трудный и потенциально фатальный выбор. Помимо неудобств, опасностей и денежных затрат, связанных с операцией и последующим лечением, он может непредсказуемо сказаться на здоровье, внешности, эмоциональных проявлениях и отношениях. Своим выбором и смелостью, с которой она о нем объявила, Джоли завоевала одобрение и восхищение всего мира. В частности, многие надеялись, что столь широкое освещение этого случая привлечет серьезное внимание людей к генетической медицине и ее потенциальным преимуществам.

Интересна роль, которую сыграли в данном случае алгоритмы. Перед столь важным для ее жизни шагом Джоли не отправилась на вершину, откуда открывается вид на океан, не устремила взгляд на исчезающее в волнах солнце и не попыталась войти в контакт со своими сокровенными чувствами. Она прислушалась к мнению своих генов, высказанному не в чувствах, а в числах. В те дни Джоли не ощущала ни боли, ни недомогания. Ее чувства говорили ей: «Расслабься, все нормально». Но компьютерные алгоритмы, применяемые ее докторами, предупреждали: «Тебя ничто не тревожит, но в твоей ДНК тикает бомба замедленного действия. Сделай что-нибудь, и немедленно!»

Конечно, эмоции и характер Джоли тоже сыграли большую роль. Если бы у другой женщины с другой нервной организацией выявили ту же генетическую мутацию, она могла бы не согласиться на мастэктомию. Но что, если бы – и здесь мы вступаем в сумеречную зону – у этой другой женщины наряду с опасной мутацией BRCA1 выявили бы мутацию (вымышленного) гена ABCD3, которая ослабляет зону мозга, ответственную за просчет вероятностей, и тем самым склоняет людей к недооценке опасности? Что, если бы статистика напомнила этой даме о безвременных смертях ее матери, бабушки и еще нескольких родственников, которые недооценили разные угрозы здоровью и не приняли предупредительных мер?

Скорее всего, серьезные решения относительно своего здоровья вы будете принимать так же, как Анджелина Джо-ли. Сделаете генетический тест, биохимический анализ крови или фМРТ; алгоритм проанализирует все результаты на основании огромной базы статистических данных, и потом вы выполните его рекомендации. Это не апокалиптический сценарий. Алгоритмы не взбунтуются и не поработят нас. Напротив, они будут такими хорошими советчиками, что не следовать их рекомендациям было бы безумием.



Анджелина Джоли впервые снялась в серьезной роли в научно-фантастическом боевике «Киборг 2». Она сыграла Казел-лу Риз, киборга, сконструированного в 2074 году компанией Pinwheel Robotics для корпоративного шпионажа. Казелла наделена человеческими эмоциями, чтобы при выполнении своих задач лучше растворяться среди людей. Когда она понимает, что Pinwheel Robotics не только ее контролирует, но и планирует ее уничтожить, то совершает побег и борется за свою жизнь и свободу. «Киборг 2» – это либеральная фантазия о борьбе личности за свою свободу и неприкосновенность частной жизни с гигантскими корпоративными спрутами.

В реальной жизни Джоли предпочла пожертвовать своей независимостью и частной жизнью во имя здоровья. Большинство из нас ради здоровья тоже, наверное, согласится «отключить защиту» своего личного пространства и открыть госструктурам и многонациональным корпорациям доступ к самым укромным внутренним уголкам. Например, если бы Google читал все наши имейлы и отслеживал все наши действия, он мог бы предупреждать о назревающих эпидемиях раньше, чем их заметят традиционные службы здравоохранения.

Как Национальная служба здравоохранения Великобритании узнаёт о том, что в Лондоне разразилась эпидемия гриппа? Анализируя отчеты тысяч докторов из сотен клиник. А откуда такая информация у всех этих докторов? Когда одним прекрасным утром Люси просыпается с ощущением легкой ломоты, она не сразу бежит к врачу. Она ждет пару часов, а то и пару дней, надеясь, что чашка горячего чая с медом сотворит чудо. Если самочувствие не улучшается, она записывается на прием к доктору, идет в клинику и докладывает о своих симптомах. Доктор заносит информацию в компьютер, и кто-то в центральном офисе службы здравоохранения, сопоставив ее с отчетами из сотен других клиник, делает заключение о том, что в Лондоне началась эпидемия гриппа. На все это уходит довольно много времени.

Google справился бы с этим за считаные минуты. Достаточно лишь отслеживать слова, которые лондонцы пишут в своих электронных письмах и набирают в поисковике Google, и соотносить их с базой симптомов болезней. Положим, в обычный день слова «головная боль», «озноб», «тошнота» и «насморк» появляются в лондонских имейлах и поисковых строках 100 тысяч раз. Если сегодня алгоритм зафиксировал 300 тысяч употреблений этих слов, значит, началась эпидемия гриппа. Не надо ждать похода Люси к врачу. Достаточно лишь, чтобы она, проснувшись разбитой, написала коллеге: «У меня болит голова и заложен нос, но на работу я приду». Алгоритм уже заметил нужные слова.

Однако, чтобы Google мог эффективно работать в этой области, Люси должна разрешить ему делиться информацией из ее писем с медицинскими структурами. Если Анджелина Джоли пожертвовала неприкосновенностью своей частной жизни для привлечения внимания к лечению рака груди, почему бы Люси не принести такую же жертву для предотвращения эпидемий гриппа и других болезней?

Вышесказанное не является теоретизированием. В 2008 году был запущен сервис Google Flu Trends. Сервис еще в разработке и пока отслеживает вспышки гриппа лишь по запросам в своей поисковой системе и якобы не читает частную переписку. Но он уже поднимает тревогу на десять дней раньше, чем традиционные службы здравоохранения[243].

Baseline Study – проект еще более амбициозный. Google намеревается сформировать гигантскую базу данных о человеческом здоровье, на основе которой будет создан «эталон здоровья». Выявление даже малейших отклонений от этого эталона позволит предупреждать о зарождении проблем на самых ранних стадиях, когда с ними гораздо легче справиться. Baseline Study увязана с целой линейкой продуктов, называемых Google Fit, которые будут встраиваться в носимые вещи типа одежды, браслетов, обуви, очков. Идея в том, чтобы продукты Google Fit собирали и отправляли в базу Baseline Study биометрические данные безостановочно[244].

Носимые датчики – только начало. Корпорации собираются пойти намного дальше. В наши дни рынок ДНК-тестирования развивается стремительно. В числе его лидеров – 23andMe, частная компания, основанная Энн Воджицки, бывшей супругой сооснователя Google Сергея Брина. Название «23andMe» отсылает к двадцати трем парам хромосом, в которых закодирован человеческий геном, и подчеркивает особую связь между мной и моими хромосомами. Тот, кто сумеет понять, что могут рассказать хромосомы, откроет вам глаза на такие ваши секреты, о существовании которых вы даже не подозревали.

Желаете узнать эти секреты? Переведите на счет 23andMe всего 99 долларов, и они пришлют вам маленький пакетик с пробиркой. Плюньте в нее и отправьте по адресу компании в Маунтин-Вью, Калифорния. Там содержащуюся в слюне ДНК расшифруют и вышлют вам по электронной почте результаты. Вы получите список своих потенциально уязвимых мест и генетических предрасположенностей – от облысения до слепоты. Никогда еще «знание себя» не обреталось столь просто и недорого. Поскольку все это основано на статистике, ключ к успешности предсказаний – размер базы данных, которой располагает компания. Поэтому та компания, у которой база геномных данных будет больше, обеспечит потребителей лучшим прогнозированием и, очевидно, завоюет рынок. Американские биотехнологические компании все больше опасаются, что строгое соблюдение в США неприкосновенности персональных данных позволит Китаю, который ее попросту игнорирует, опередить всех и занять доминирующие позиции на мировом генетическом рынке.

Если мы обеспечим Google и его конкурентам беспрепятственный доступ в наши биометрические устройства, к нашим ДНК-тестам и к нашим историям болезней, то в итоге получим всезнающий медицинский сервис, который не только поведет борьбу с эпидемиями, но и защитит нас от рака, инфарктов и Альцгеймера. Однако, располагая такой базой данных, Google сможет сделать еще больше. Представьте себе систему, от которой, как в известной песне группы The Police, не укроется ни один твой шаг, ни один твой вздох, ни одно твое слово; систему, которая мониторит ваш банковский счет и ваш пульс, ваш сахар и ваши сексуальные приключения. Разумеется, эта система будет знать вас гораздо лучше, чем вы сами знаете себя. Самообманы и самообольщения, удерживающие людей в плену дурных связей, нелюбимых профессий и вредных привычек, не введут Google в заблуждение. В отличие от комментирующего «я», которое управляет нами сегодня, Google не будет принимать решения, ориентируясь на мифы, и не попадется в ловушку когнитивных упрощений и правила «пика – финала». Он на самом деле будет помнить каждый наш шаг, каждое слово и каждое рукопожатие.

Многие из нас были бы рады переложить основную часть процесса принятия решений на такую систему или хотя бы в особо ответственных случаях консультироваться с ней. Google безошибочно подскажет, какой посмотреть фильм, куда отправиться в отпуск, что изучать в колледже, какое предложение работы принять и даже с кем закрутить роман и вступить в брак. «Послушай, Google, – скажет молодая девушка, – за мной ухаживают Джон и Пол. Я люблю обоих, но по-разному, и мне так трудно определиться. Учитывая все, что ты знаешь, каким бы был твой совет?»

И Google ответит:

«Я знаю тебя с момента твоего рождения. Я читал все твои имейлы, записывал все твои телефонные разговоры и знаю твои любимые фильмы, твою ДНК и полную биометрическую историю твоего сердца. У меня есть подробная информация о каждом твоем свидании, и, если хочешь, я могу показать тебе посекундную диаграмму твоего сердцебиения, артериального давления и уровня сахара во время встреч с Джоном или Полом. При необходимости могу даже выдать точную математическую оценку каждой из твоих интимных встреч с каждым из них. И конечно же, Пола и Джона я знаю так же хорошо, как тебя. Полагаясь на все эти данные, на мои совершенные алгоритмы и на статистический анализ сотен миллионов проверенных десятилетиями отношений, я советую тебе выбрать Джона – с 87-процентной вероятностью он составит тебе лучшую партию.

Более того, я знаю тебя настолько хорошо, что знаю и то, что тебе не нравится мой ответ. Пол красивее Джона, а поскольку ты придаешь преувеличенное значение внешности, то в глубине души тебе хотелось, чтобы я посоветовал Пола. Внешняя привлекательность, конечно, много значит, но все же меньше, чем ты думаешь. В настройках твоих биохимических алгоритмов – сформировавшихся десятки тысяч лет назад в африканской саванне – доля внешней привлекательности в общей оценке потенциальных партнеров составляет 35 процентов. Мои алгоритмы, основанные на новейших исследованиях и огромной базе статистических данных, говорят, что внешность всего на 14 процентов определяет долгосрочный успех романтических отношений. Поэтому, даже приняв в расчет красоту Пола, я все же утверждаю, что тебе будет лучше с Джоном»[245].

В обмен на такое преданное наставничество мы должны будем отказаться от идеи, что люди – личности и у каждого человека есть свободная воля, которая решает, что хорошо, что плохо и в чем состоит смысл жизни. И тогда люди перестанут быть автономными сущностями, которые руководствуются мифами, сочиняемыми нашим комментирующим «я». Мы превратимся в неотъемлемые части гигантской глобальной сети.

Либерализм обожествляет комментирующее «я» и дает ему право голосовать на избирательных участках, в супермаркетах и на брачном рынке. Веками это себя оправдывало, так как даже при вере комментирующего «я» во всякого рода вымыслы и фантазии никакая альтернативная система не знала меня лучше. Но, когда появится система, действительно знающая меня лучше, будет чистейшим безрассудством оставить право решения за комментирующим «я».

Либеральные обычаи типа демократических выборов уйдут в прошлое, так как и наши политические взгляды Google сможет отстаивать лучше, чем мы сами. Уединившись за занавеской в кабинке для голосования, я, как учит либерализм, должен проконсультироваться со своим подлинным «я» и выбрать ту партию или кандидата, которые отвечают моим сокровенным чаяниям. Но естественные науки говорят, что, стоя за занавеской, я не помню всего передуманного, прочувствованного и пережитого мной со дня прошлых выборов. Кроме того, меня сбивают с толку предвыборная пропаганда, пиар и случайные воспоминания. Как в эксперименте Канемана с холодной водой, комментирующее «я» подчиняется здесь правилу «пика – финала». Оно забывает большинство событий, помня лишь несколько чрезвычайных и непомерно преувеличивая значимость самых последних.

Предположим, я четыре долгих года с утра до ночи критикую политику премьер-министра, твердя себе и каждому, кто готов слушать, что «этот тип пустит всех нас по миру». Накануне выборов правительство снижает налоги и начинает раздавать деньги направо и налево. Правящая партия нанимает лучших копирайтеров и проводит блестящую кампанию, искусно перемежая обещания с угрозами, бьющими прямой наводкой в центр страха в моем мозгу. В день выборов я просыпаюсь с простудой, которая ослабляет мою мыслительную активность и заставляет превыше всех благ желать безопасности и стабильности. Результат? Я еще на целых четыре года возвращаю в кабинет «этого типа, который пустит всех нас по миру».

Другое дело, если бы я согласился, чтобы за меня проголосовал Google. Google, знаете ли, не проведешь. Хотя он не проигнорирует недавнего снижения налогов, но и не упустит ничего из происходившего в предшествующие четыре года. Google будет знать, сильно ли поднималось у меня давление всякий раз, как я брал в руки утреннюю газету, и резко ли падал мой уровень дофамина, пока я смотрел вечерние новости. Он будет знать, как отсеивать пустые лозунги пиарщиков. Он будет понимать, что болезнь смещает избирательные предпочтения вправо, и сделает соответствующую поправку на ситуацию. Поэтому при голосовании Google будет исходить не из сиюминутного состояния моих ума и тела и не из фантазий комментирующего «я», а из реальных чувств и интересов комплекса биохимических алгоритмов, обозначаемого местоимением «я».

Естественно, Google не всегда будет попадать в яблочко. В конце концов, речь идет лишь о вероятностях. Но если его решения будут верными часто, люди начнут все более охотно уступать ему свои права. Чем дальше, тем обширнее будут становиться базы данных, точнее статистика, совершеннее алгоритмы и – вернее решения. Система никогда не познает меня идеально и никогда не сделается абсолютно непогрешимой. Однако в этом и нет необходимости. Либерализм рухнет в тот час, когда система узнает меня лучше, чем знаю себя я сам. А это вовсе не так трудно, как кажется, учитывая, что в большинстве своем люди знают себя довольно-таки плохо.

Исследование, проведенное недавно по заказу Facebook, показало, что уже сегодня фейсбуковский алгоритм разбирается в характерах и настроениях людей лучше, чем их друзья, родители и супруги. В эксперименте участвовало 86 220 волонтеров, которые имели аккаунт в Facebook и ответили на сто вопросов персональной анкеты. Алгоритм предсказывал ответы волонтеров, основываясь на анализе их «лайков» – то есть страниц, изображений и клипов, которые они отметили как понравившиеся. Точность предсказаний зависела от количества лайков. Предсказания алгоритма сравнивались с предсказаниями коллег по работе, друзей, членов семьи и супругов. Поразительно, но алгоритму хватило всего десяти лайков, чтобы превзойти в прозорливости коллег по работе. Ему понадобилось семьдесят лайков, чтобы превзойти друзей, сто пятьдесят лайков, чтобы превзойти членов семьи, и триста лайков, чтобы превзойти супругов. Другими словами, если вам случится триста раз лайкнуть в Facebook, его алгоритм сможет предсказывать ваши мнения и желания лучше, чем ваши муж или жена!

Еще один эксперимент. Участников попросили оценить уровень своего пристрастия к алкоголю или степень своей вовлеченности в социальные сети. И их оценки оказались менее точными, чем оценки алгоритма. Итогом этого эксперимента стал следующий прогноз (сделанный учеными, не фейсбуковским алгоритмом): «Люди могут отказаться от собственных субъективных суждений и доверить компьютерам принятие жизненно важных решений типа выбора профессии, любимых занятий и даже романтического партнера. Возможно, что такие основанные на данных решения благотворно скажутся на жизни людей»[246].