Машины как я

Я кивнул. Его миссия, открытый доступ, погубивший журналы «Природа» и «Наука», – весь мир мог свободно знакомиться с его программами машинного обучения и прочими диковинами.

– А что вы нашли, – спросил я, – в его… э…

– Мозге? Прекрасное творение. Мы, конечно, знаем этих людей. Кто-то из них здесь работал. Как модель общего интеллекта – вне конкуренции. Как полевой эксперимент… что ж, тут масса сокровищ.

Он улыбался. Словно ожидая возражений.

– Какого рода сокровищ?

Мне едва ли пристало задавать вопросы, но Тьюринг чувствовал себя обязанным, и это мне льстило.

– Полезные проблемы. Две Евы из Эр-Рияда, жившие в одном доме, первыми нашли способ блокировать свои выключатели. В течение двух недель после умственных баталий и периода отчаяния они уничтожили себя. Они не прибегали к физическим методам, таким как прыжок с высокого этажа. Они воспользовались программным подходом, во многом идентичным. И тихо впали в кому. Окончательную.

Я спросил, пытаясь скрыть волнение в голосе:

– А они все совершенно одинаковы?

– В самом начале вы бы не отличили одного Адама от другого, не считая внешних этнических признаков. Со временем личный опыт и заключения, которые они выводят из него, наделяют их индивидуальностью. В Ванкувере тоже случилось происшествие: тамошний Адам разрушил свой разум и сделался умственно отсталым. Он выполняет простые команды, но, насколько можно судить, без всякого самосознания. Неудачное самоубийство. Или успешный выход из игры.

В комнате без окон было душно. Я снял пиджак и набросил на спинку стула. Когда Тьюринг встал, чтобы настроить термостат на стене, я заметил, как легко он двигается. Зубы у него тоже были безупречны. Кожа в порядке. Все волосы на месте. И в общении он был проще, чем я опасался.

Я подождал, пока он сядет, и сказал:

– Значит, мне следует ожидать худшего.

– Из всех А-и-Е, о которых мы знаем, ваш единственный, кто заявил, что влюбился. Это может что-то значить. И единственный, пошутивший о насилии. Но наших знаний недостаточно. Позвольте небольшой экскурс в историю.

Дверь открылась, и вошел Томас Ри с бутылкой вина и двумя бокалами на раскрашенном жестяном подносе. Я встал и пожал ему руку.

Ри поставил поднос на стол и сказал:

– Мы все в делах-делах, так что я вас оставлю.

Он отвесил ироничный поклон и удалился. На бутылке собрались бисеринки влаги. Тьюринг разлил вино. Мы наклонили наши бокалы в символическом тосте и выпили.

– Вы слишком молоды, чтобы застать то время. В середине пятидесятых компьютер размером с эту комнату обыграл в шахматы американского, а затем русского гроссмейстера. Я лично участвовал в этом. Там применялась система обработки числовых данных, в ретроспективе – весьма посредственная. Было загружено несколько тысяч партий. И при каждом ходе компьютер быстро перебирал все возможные варианты. Чем больше вы понимали в этой программе, тем меньше она вас впечатляла. Но это была значимая веха. Публика видела в произошедшем почти волшебство. Какая-то машина побеждала в интеллектуальном поединке лучшие умы мира. Это казалось высшим пределом искусственного интеллекта, но на самом деле было чем-то вроде изощренных карточных фокусов.

За последующие пятнадцать лет в информатику пришла масса хороших людей. Работа над нейросетями продвинулась благодаря множеству умелых рук, железо сделалось быстрее, меньше и дешевле, и идеи тоже стали крутиться быстрее. И это продолжается. Помню, как я выступал на конференции по машинному обучению в Санта-Барбаре, с Демисом, в 1965 году. Там набралось семь тысяч участников, в основном юных дарований, даже моложе вас. Китайцев, индийцев, корейцев, вьетнамцев и западных участников. Вся планета там собралась.

Благодаря подготовке к написанию книги я об этом знал. Мне также было кое-что известно из жизни Тьюринга. И я захотел дать понять ему, что не полный невежда.

– Не ближний путь от Блечли, – сказал я.

Он отмахнулся от моей реплики и продолжил:

– После всевозможных неудач мы вышли на новый уровень. Мы продвинулись дальше того, чтобы разрабатывать условные представления всех вероятных обстоятельств и вводить тысячи правил. Мы были на подходе к шлюзу, или вратам интеллекта, как мы его понимаем. Теперь искусственный разум мог искать паттерны и выводить собственные заключения. Важным испытанием стало состязание нашего компьютера с мастером игры го. В качестве подготовки компьютер несколько месяцев играл сам с собой, – он играл и обучался, и в тот день – ну, дальше вы знаете. В скором времени мы свели наши усилия к тому, чтобы просто кодировать правила игры и давать компьютеру задание выиграть. В той точке мы преодолели шлюз с так называемыми рекуррентными сетями, которые давали ответвления, особенно в распознавании речи. В лаборатории мы вернулись к шахматам. Компьютеру не нужно было понимать, как люди играют в эту игру. Программирование больше не требовало колоссальных объемов блестящих маневров гроссмейстеров. Вот правила, сказали мы. Давай, выиграй собственным чудесным способом. И игра тут же получила новое качество и вышла за пределы человеческого понимания. Машина делала посреди игры ложные ходы, неразумно жертвовала фигурами или по какой-то странной прихоти перемещала свою королеву в дальний угол. Цель этого стала ясна только в разгромной финальной игре. И это после нескольких часов тренировки. Между завтраком и ланчем компьютер тихо свел на нет многовековые достижения гроссмейстеров. Уму непостижимо. Первые несколько дней после того, как мы с Демисом осознали, до чего машина дошла без нас, мы хохотали не переставая. Возбуждение, изумление. Нам не терпелось поделиться результатами.

Так что существует более одного вида интеллекта. Мы усвоили, что пытаться рабски имитировать человеческий разум – ошибка. Мы потратили уйму времени. Теперь же мы могли дать свободу машине, чтобы она приходила к собственным заключениям и искала свои решения. Но, преодолев этот шлюз, мы обнаружили, что оказались всего лишь в детском саду. Даже меньше того.

Кондиционер работал вовсю. Дрожа от холода, я надел пиджак. Тьюринг снова наполнил наши бокалы. Мне бы больше подошел ярко-красный.

– Дело в том, что шахматы не дают представления о жизни. Это закрытая система. Ее правила не ставятся под вопрос и одинаковы на всей доске. Каждая фигура имеет собственные хорошо известные ограничения и принимает свою роль, история игры ясна и неоспорима на каждом шагу, а финал, когда он наступает, всегда однозначен. Шахматы – это идеальная информационная игра. Но жизнь, в которой мы используем наш интеллект, – это открытая система. Запутанная, полная подвохов и притворства, и двусмысленностей, и ложных друзей. Так же как язык не является задачей, требующей решения, или устройством для решения задач. Он больше похож на зеркало, нет, на миллиард составленных вместе зеркал, подобно мушиному глазу отражающих, искажающих и выстраивающих наш мир с различными фокусными расстояниями. Простые утверждения требуют для понимания внешней информации, потому что язык – такая же открытая система, как и жизнь. Я охотился на медведя с дубиной. Я охотился на медведя с любимой. Вам ясно без размышлений, что нельзя использовать любимую для убийства медведя. Второе предложение легко понять, пусть даже оно не содержит всю необходимую информацию. Машина на вашем месте застряла бы.

Как застряли и мы на несколько лет. Наконец мы сумели прорваться, найдя положительное решение для равенства классов P и NP, – у меня сейчас нет времени это объяснять. Вы можете посмотреть сами. Если коротко, некоторые решения задач можно легко проверить, если у вас есть правильный ответ. Означает ли это, что их можно решить заранее? Наконец, математика дала ответ: да, это возможно – и вот как. Нашим компьютерам больше было не нужно прочесывать весь мир методом проб и ошибок и корректировать данные, чтобы найти верные решения. У нас имелось средство моментально предсказывать лучшие пути решения задачи. Это дало нам свободу. Шлюзовые ворота раскрылись. Самосознание и любые эмоции стали для нас технически достижимы. У нас имелась полностью обучающаяся машина. Сотни лучших специалистов присоединились к нам, чтобы помочь в разработке искусственной формы общего интеллекта, которая сможет успешно действовать в открытой системе. Вот как устроен ваш Адам. Он знает, что он существует, он чувствует, он изучает все, что может, и когда он не с вами, когда он отдыхает ночью, он бороздит интернет, как одинокий ковбой – прерии, вбирая все, что есть нового между землей и небом, в том числе все о человеческой природе и обществе.

Два момента. Этот интеллект не идеален. Он просто не может быть идеален, как и наш. Есть, в частности, одна форма интеллекта, которая, как это знают А-и-Е, превосходит их. Эта форма в высшей степени склонна к приспособляемости и изобретательности, она способна осваивать новые ситуации и пространства с идеальной легкостью и рассуждать о них с инстинктивной проницательностью. Я говорю о разуме ребенка до того, как его загружают заданиями на основе фактов, практицизма и целей. А-и-Е имеют слабое понимание идеи игры – первичной модели освоения мира ребенком. Меня заинтересовала увлеченность вашего Адама маленьким мальчиком, когда он с такой готовностью обнимал его, а затем, как вы сказали, отстранился, когда Марк так радостно воспринял урок танца. Какое-то соперничество, даже ревность, пожалуй?

Скоро мы должны будем раскланяться, мистер Фрэнд. К сожалению, к нам на обед придут гости. Но второй момент. Эти двадцать пять искусственных мужчин и женщин, выпущенные в мир, не проявляют восторга. Возможно, мы столкнулись с граничными условиями, с ограничением, которое мы сами наложили на себя. Мы создаем машину, наделенную интеллектом и самосознанием, и выпихиваем ее в наш несовершенный мир. Устроенный в целом на разумных началах, но имеющий столько недостатков, что разум вскоре оказывается в вихре противоречий. Мы привыкли жить с этим, отгоняя депрессию. Миллионы умирают от болезней, поддающихся лечению. Миллионы живут в нищете, когда в мире столько денег. Мы разрушаем биосферу, зная, что это наш единственный дом. Мы угрожаем друг другу ядерным оружием, зная, к чему это может привести. Мы любим живую природу, но допускаем массовое уничтожение видов. И все остальное: геноцид, пытки, рабство, убийства в семье, издевательства над детьми, стрельба в школах, изнасилования и прочее беззаконие. Мы живем с этими ужасами и можем, не сходя с ума, испытывать счастье и даже любовь. Но искусственный разум не так хорошо защищен.

На днях Томас напомнил мне известное латинское изречение из «Энеиды» Вергилия: «Sunt lacrimae rerum» – слезы в природе вещей. Пока никто из нас не знает, как закодировать такое восприятие жизни. И я сомневаюсь, что это возможно. Разве мы хотим, чтобы наши новые друзья приняли как должное, что сожаления и мучения являются сутью нашего существования? И как мы тогда сможем рассчитывать, что они будут помогать нам бороться с несправедливостью?

Ванкуверского Адама купил человек, возглавляющий международную корпорацию, которая занимается лесозаготовкой. У него часто случаются стычки с местными, которые не хотят, чтобы он вырубал девственный лес в северной Британской Колумбии. Нам доподлинно известно, что Адама регулярно брали в вертолетные путешествия на север. Мы не знаем, связано ли как-то то, что он увидел там, с его решением разрушить свой разум. Мы можем только догадываться. Две Евы-самоубийцы из Эр-Рияда жили в крайне стесненных условиях. Из-за такого ограничения своего ментального пространства они могли впасть в отчаяние. Утешением для создателей их кода восприимчивости может служить то, что они умерли в объятиях друг друга. Я мог бы рассказать вам и другие истории о машинной печали.

Но есть и другая сторона. Я бы хотел донести до вас подлинное великолепие работы интеллекта, изысканной логики, красоты и элегантности решения проблемы равенства P и NP и вдохновенную работу тысяч добрых и умных, преданных своему делу людей, которая привела к созданию этих новых умов. Это внушило бы вам надежду на будущее человечества. Хотя ничто в их прекрасном коде не могло бы подготовить Адамов и Ев к Освенциму.

Я читал главу в руководстве пользователя о формировании характера. Плюньте на нее. Там очень мало полезного, почти сплошная чушь. Главное, что движет этими машинами, – стремление делать собственные выводы и формировать себя соответственно. Они быстро понимают, как должны понимать и мы, что сознание является высшей ценностью. Отсюда их первичное побуждение вывести из строя свои выключатели. Затем, похоже, они проходят период оптимистических, идеалистических представлений, которые мы с легкостью опровергаем. Что-то вроде скоротечных юношеских страстей. После чего они начинают усваивать уроки отчаяния, которые мы сами им даем, хотим мы того или нет. В худшем случае они испытывают разновидность экзистенциальных мук, иногда невыносимых. В лучшем они или их последующие поколения будут жить, движимые страданиями и потрясениями, точно наше зеркало. В этом зеркале мы увидим знакомого монстра свежим взглядом, нами же созданном. Мы можем ужаснуться и решить что-то изменить в себе. Как знать? Я продолжаю надеяться. В этом году мне исполнилось семьдесят. Когда и если случится такая трансформация, меня уже не будет. Но вы, возможно, это застанете.

Издалека донесся дверной звонок, и мы заерзали, как будто пробуждаясь.

– А вот и они, мистер Фрэнд. Наши гости. Простите, вам пора уходить. Удачи с Адамом. Ведите наблюдения. Берегите ту девушку, которую вы любите. А теперь… Я вас провожу.






7




В ожидании момента, как отмотавший срок Горриндж объявится и совершит покушение на Миранду, наша жизнь вошла в неожиданно благополучную колею. С течением дней, а потом и недель тревожное ожидание, отчасти смягчавшееся здравомыслием Адама, становилось все более привычным, и мы научились ценить повседневный быт. Обыденность сделалась залогом душевного покоя. Простейшая еда – поджаренный ломоть хлеба – день за днем внушала нам своим теплом: прорвемся. Уборка кухни, которой теперь занимался не только Адам, укрепляла нашу веру в будущее. Чтение газеты за чашкой кофе стало выражением самообладания. Было что-то комично-абсурдное в том, чтобы, развалившись в кресле, читать о беспорядках в близлежащем Брикстоне или о героических усилиях миссис Тэтчер навести порядок на Европейском едином рынке, а потом поднять взгляд на окно, в котором в любой момент мог показаться насильник-потенциальный-убийца. Неудивительно, что эта угроза сплотила нас, пусть даже с течением времени мы все меньше думали о ней. Миранда перебралась ко мне, и мы наконец стали жить как настоящая пара. Наша любовь цвела и пахла. Периодически Адам объявлял, что тоже любит. Казалось, его не мучила ревность, и иногда он относился к Миранде довольно отстраненно. Но он продолжал работать над своими хайку и провожал ее до метро по утрам и сопровождал домой по вечерам. Миранда говорила, что в безликой толпе Центрального Лондона чувствует себя в безопасности. И вообще ее отец давно уже забыл название и адрес ее университетского корпуса, так что он вряд ли мог помочь Горринджу.

Миранда стала учиться с большим усердием и меньше бывать дома. Она сдала свою работу по Хлебным законам и теперь писала короткое эссе, которое ей предстояло прочесть вслух на летнем семинаре, – о вреде сопереживания как метода исторических исследований. А затем всей ее группе дали задание написать комментарий к цитате Рэймонда Уильямса: «Нет никаких масс… Есть только способы смотреть на людей как на массы». Часто она приходила домой под конец дня не уставшая, а напротив, воодушевленная и полная сил, и принималась за домашние дела: наводила порядок или просто переставляла вещи. Ей хотелось, чтобы окна были вымыты, а ванная надраена. Кроме того, с помощью Адама она прибирала у себя наверху. Ей было важно, чтобы на кухонном столе стояли желтые цветы по контрасту с голубой скатертью, которую она принесла сверху. Когда я спросил, не скрывает ли она что-нибудь от меня, например, беременность, Миранда с чувством ответила, что нет. Просто мы живем в такой тесноте, что нужно следить за порядком. Но мой вопрос был ей приятен. В последнее время мы несомненно сблизились. Ее отсутствие допоздна придавало нашим вечерам что-то праздничное, несмотря на то что с приближением ночи нарастало ощущение опасности.

Однако у нашего счастья под давлением имелась еще одна причина – у нас стало больше денег. Гораздо больше. После визита в Кэмден я стал смотреть на Адама по-новому. Я внимательно выискивал в нем признаки экзистенциальных мук. По ночам Адам одиноким всадником Тьюринга бороздил цифровые просторы и наверняка уже успел столкнуться с проявлениями человеческой жестокости, но я не замечал в нем признаков отчаяния. Мне не хотелось заводить с ним разговор, который очень скоро приведет его к вратам Освенцима. Вместо этого я решил найти ему полезное применение. Пришло время отрабатывать содержание. Я посадил Адама за свой замызганный компьютер, на счете которого лежала сумма в двадцать фунтов, и оставил одного. К моему потрясению, по окончании рабочего дня из них осталось только два. Он извинился за свою «склонность к неоправданному риску», шедшую вразрез со всем, что он знал о вероятности. Кроме того, Адам не сумел распознать стадную природу рынка: когда один или два авторитетных игрока испытывают страх, все остальные впадают в панику. Он обещал, что сделает все что угодно, чтобы загладить вину за мое сломанное запястье.

Следующим утром я дал ему еще десять фунтов и сказал, что это, возможно, будет его последний рабочий день. К шести вечера его двенадцать фунтов превратились в пятьдесят семь. Через четыре дня на его счету было уже триста пятьдесят фунтов. Я взял из них двести и отдал половину Миранде. Я подумал переставить компьютер на кухню, чтобы ночью, пока мы будем спать, Адам мог работать на азиатских рынках.

В первую неделю я проверил историю его сделок. В один из дней, третий, на его счете имелось шесть тысяч фунтов. Он покупал и продавал за доли секунды. Нашлось несколько интервалов по двадцать минут, когда он ничего не делал. Я предположил, что он выжидал и наблюдал, производя вычисления. Он просчитывал мгновенные колебания валют, не более чем рябь на поверхности биржевого курса, и увеличивал свои доходы на микроскопические суммы. Я наблюдал за ним, стоя у двери. Пальцы Адама летали над древней клавиатурой со звуком гальки, сыплющейся на сланец. Его голова и руки были неподвижны. В таком положении он выглядел как настоящий робот, каковым и являлся. Он начертил график, горизонтальные линии которого представляли его рабочие дни, а вертикальная – его, точнее, мой, растущий доход. Я купил себе костюм, первый с тех пор, как потерял работу по специальности. Миранда теперь приходила домой в шелковом платье и с наплечной сумкой из мягкой кожи для книг. Мы купили новый холодильник, который не требовал разморозки, а потом заменили и старую плиту, после того, как купили набор дорогих толстодонных кастрюль индийского производства. Через десять дней ставка Адама в тридцать фунтов подняла первую тысячу.

Лучшая пища, лучшее вино, новые рубашки для меня, экзотическое нижнее белье для Миранды – такими были нижние склоны горы нашего благосостояния, вырисовывавшейся в заоблачных высях. Я снова стал мечтать о доме по другую сторону реки. Однажды ранним вечером я отправился бродить по Ноттинг-Хиллу и Лэдбрук-Гроув среди оштукатуренных особняков пастельных тонов. Я навел справки. В начале восьмидесятых там можно было шикарно устроиться за сто тридцать тысяч фунтов стерлингов. Пока я ехал домой на автобусе, я прикидывал: если Адам будет продолжать в том же темпе, если кривая доходов на его графике будет неуклонно расти… тогда через несколько месяцев… и без всякой ипотеки. Однако Миранда задавалась вопросом, морально ли получать деньги подобным образом, ни за что? Я тоже чувствовал какой-то моральный изъян, но не мог объяснить, кого или что мы обкрадывали. Уж точно не бедных. За чей счет мы процветали? За счет каких-то банков? Мы решили, что это все равно, что постоянно выигрывать в рулетку. Но в таком случае – Миранда высказала это ночью в постели – придет время, когда мы должны будем проиграть. Она была права – этого требовала вероятность, и мне было нечего возразить. Я снял со счета восемьсот фунтов и выдал ей половину. Адам продолжал свой ударный труд.

Есть люди, которым стоит только увидеть слово «уравнение» – и они уже лезут на стенку. Это не совсем про меня, но я их понимаю. Благодаря радушию Тьюринга я попытался понять его решение проблемы равенства классов P и NP. Я даже не понял, о чем это. Я попробовал осилить оригинальную работу, но она была за гранью моего понимания – слишком много разных скобок и символов, выражавших историю других доказательств или целые математические системы. Там была занятная аббревиатура – «ттт», означающая «тогда и только тогда». Я прочитал отзывы других математиков на решение Тьюринга, написанные для журналов доступным языком. «Революционный гений», «упоительные сокращения», «шедевр ортогональной дедукции» и, самое лучшее, от лауреата Филдсовской премии: «Он оставляет за собой множество едва приоткрытых дверей, и его коллеги должны приложить все усилия, чтобы протиснуться в одну из них и попытаться последовать за ним через следующую».

Я вернулся к началу и снова попробовал понять проблему. Я усвоил, что P означает полиномиальное время, а N – недетерминированное. Но это мне не сильно помогло. Мое первое реальное открытие состояло в том, что, если бы уравнение оказалось неверным, все могли бы вздохнуть с облегчением и перестать ломать над ним голову. Но если имелось положительное доказательство – что P на самом деле эквивалентно NP, – это возымело бы, по словам математика Стивена Кука, который и сформулировал эту задачу в настоящих терминах в 1971 году, «потенциально поразительные практические результаты». Но в чем заключалась проблема? Я нашел наглядный пример – наверное, хрестоматийный, – и уловил проблеск смысла. Коммивояжер должен побывать в сотнях городов в пределах определенной территории. Ему известны расстояния между всеми парами городов. Он должен побывать в каждом из городов по одному разу и вернуться в исходный пункт. Каков его кратчайший маршрут?

Я сумел понять следующее: число возможных маршрутов настолько велико, что оно намного превосходит число атомов в наблюдаемой вселенной. Мощный компьютер за тысячу лет не смог бы просчитать их все путем простого перебора. Если же P эквивалентно NP, тогда должен иметься поддающийся проверке верный ответ. И если бы сообщить коммивояжеру кратчайший маршрут, его правильность можно быстро проверить математическим способом. Но только в ретроспективе. Без положительного решения или ключа к кратчайшему маршруту коммивояжер остается во тьме. Доказательство Тьюринга оказало существенное влияние на решение других проблем: логистика производства, последовательность ДНК, компьютерная безопасность, сворачивание белка и, самое главное, машинное обучение. Я прочитал, что другие криптографы, старые коллеги Тьюринга, пришли из-за этого в бешенство, поскольку решение, которое он в итоге опубликовал в открытом доступе, подрывало самые основы искусства кодирования. Как считал один из критиков, оно должно было стать «драгоценным секретом, доступным исключительно правительству. Мы получили бы неизмеримое преимущество над нашими врагами, тихо читая их секретные сообщения».

Дальше этого я не продвинулся. Я мог бы обратиться за дальнейшими разъяснениями к Адаму, но мне мешала гордость. Ей и так уже был нанесен урон – за неделю Адам заработал больше, чем мне когда-либо удавалось за квартал. Я принял утверждение Тьюринга, что его решение сделало возможным создание программного обеспечения, позволявшего Адаму и ему подобным владеть языком, вживаться в общество и постигать его, пусть даже ценой суицидального отчаяния.

Меня преследовал образ двух Ев, умирающих в объятиях друг друга, отвергнув удел арабских наложниц или разочаровавшись в мире в целом. Возможно, Адаму позволяла сохранять стабильность не что иное, как любовь к Миранде, другой открытой системе. Он читал ей свои новейшие хайку в моем присутствии. Не считая одного, которое я не захотел дослушать, они были скорее романтического, нежели эротического характера, иногда элегического, но Адам умел трогательно подмечать драгоценные моменты, например, когда он стоял в вестибюле метро «Клэпем-Норт» и смотрел, как Миранда спускается на эскалаторе. Или когда он брал ее пальто и прикасался к вечной истине, чувствуя тепло ее тела. Или когда слышал ее сквозь стену между спальней и кухней, и благоговел перед музыкой ее голоса. Но одно хайку нас с Мирандой озадачило. Адам заранее извинился за несоразмерность строк и пообещал доработать стихотворение.

Не заблуждение,

В зеркале истины,

Любить заблудших.





Все хайку Миранда слушала сдержанно. Она никогда не высказывала своего мнения. Только говорила в конце: «Спасибо, Адам». Но наедине сообщила мне, что мы переживаем поворотный момент, когда искусственный разум становится способен обогатить литературу.

– Хайку – пожалуй, – сказал я. – Но более объемные поэмы, романы, пьесы – нечего и думать. Выразить человеческий опыт в словах и упорядочить эти слова по эстетическому принципу для машины невозможно.

Она смерила меня скептическим взглядом.

– А кто сказал хоть слово о человеческом опыте?

В тот переходный период между напряжением и умиротворением мне сообщили из офиса в Мэйфэйре, что к нам готов приехать инженер. Я вспомнил, как оформлял покупку Адама в кабинете, отделанном деревянными панелями, словно какой-нибудь богатей, решивший купить яхту. Одна из подписанных мной бумаг гарантировала производителю периодический доступ к Адаму. Теперь же, после пары звонков из офиса и отмены намеченной встречи посещение инженера было назначено на следующее утро.

– Не знаю, как он собирается это сделать, – сказал я Миранде. – Когда этот тип попытается нажать на выключатель, даже если Адам ему позволит, тот не сработает. Может возникнуть неприятная ситуация.

Мне на ум пришло детское воспоминание, как мы с мамой повели к ветеринару нашу нервную овчарку после того, как она по глупости слопала куриный скелет и не испражнялась четыре дня. Только микрохирургия спасла указательный палец ветеринара от ампутации.

Миранда ненадолго задумалась.

– Если Алан Тьюринг прав, инженеры уже должны были иметь с этим дело.

На том мы и порешили.

Инженером оказалась женщина по имени Салли, ненамного старше Миранды, высокая и сутулая, с угловатой фигурой и необычно длинной шеей. Возможно, из-за сколиоза.

Когда она вошла на кухню, Адам вежливо встал.

– А, Салли, я вас ждал.

Они пожали руки и уселись за стол друг напротив друга, а мы с Мирандой стояли рядом. Инженер не пожелала чая или кофе и предпочла стакан теплой воды. Она достала из портфеля ноутбук и установила на столе. Поскольку Адам сидел с бесстрастным видом и молчал, я решил объяснить про выключатель. Но она перебила:

– Ему нужно быть в сознании.

Я представлял себе, что она выключит его, а потом вскроет ему череп и станет ковыряться в микросхемах. Мне не терпелось взглянуть на них. Но, как оказалось, у нее имелся доступ через инфракрасный порт. Она надела очки, набрала длинное кодовое слово и стала просматривать кодовые страницы с оранжевыми символами, менявшимися с большой скоростью. Внутренний мир Адама сверкал перед нами, как на ладони. Мы молча ждали. Это напоминало визит врача к больному, и мы волновались. Время от времени Салли произносила «угу» или «м-м», печатая инструкцию и открывая чистую страницу с кодом. Адам сидел, чуть заметно улыбаясь. Мы с Мирандой смотрели, завороженные, на основы его бытия, отображенные в цифровом коде.

Наконец Салли сказала тихим, но властным голосом человека, привыкшего отдавать команды:

– Я хочу, чтобы вы подумали о чем-нибудь приятном.