Державы земные

– Далее, у тебя наличествуют отклонение оптимизма и желание думать, что все хорошо кончится. Это в совокупности с отклонением сверхуверенности означает не только то, что твои предсказания излишне оптимистичны, но и то, что ты в них слишком сильно веришь. Далее, у тебя есть отклонение привязанности к статус-кво, на основе которого ты считаешь, что, если Земля не нападает сегодня, она не нападет и завтра. И последнее, ты страдаешь от когнитивного диссонанса, поскольку у тебя на Земле осталось много друзей среди военных, о которых ты предпочитаешь думать как о людях хороших, и это…

Джон невольно вскочил.

– Значит, я ни хрена не могу предвидеть, а вот ты идеально понимаешь будущее при помощи своего магического шара?

– У меня нет свидетельств существования объекта «магический шар», но я скорректирую свои приоритеты, если ты предоставишь эти свидетельства. Вне зависимости от этого, у меня его нет. Нет, мои предсказания будущего основаны всего лишь на анализе геополитической ситуации. Я определил восемьдесят девять различных первичных вариантов развития событий в предстоящем конфликте и триста шестнадцать вторичных. Я не знаю, какую стратегию собираются использовать земные правительства, однако тут применим закон Ципфа: я могу свести все варианты к наиболее вероятным. Я использовал при моделировании метод Монте-Карло и несколько других методик моделирования…

Джону захотелось скрестить руки на груди, и он осознал, что уже сделал это.

– И какого черта все это означает?

– Это означает, что я достаточно уверен в том, что в течение ближайших четырех лет, плюс-минус четыре года, земные правительства начнут полномасштабную атаку на Луну, в число целей которой входит отвлечь избирателей от текущих экономических проблем. В результате я и Псы, мы будем уничтожены.

Джон выдохнул. Краем глаза заметил, что Макс пристально смотрит на него. Проклятье, еще не хватало, чтобы Гамма вместе с Псами на него наезжал.

– Не по теме. Твоя вторая база в кратере Константинова. Объясни зачем! Даже если ты прав насчет земных правительств, что они на самом деле вторгнутся, тогда чем тебе поможет вторая база?

– Должен признать, что я пока не могу дать четкий ответ.

– Не можешь дать ответ!

Джон дошел до дальней стены палатки и развернулся.

– Тогда зачем вообще ее строить было?

– Я не знаю в точности, что именно станут делать земные войска, но с высокой степенью уверенности делаю вывод, что наличие резервных промышленных мощностей, не наблюдаемых с Земли и удаленных от колонии в Аристилле, дает мне лучшие возможности.

Джон почувствовал, как у него сдавливает виски. Потер лоб правой рукой, но это не помогло. Макс всегда разглагольствовал насчет неизбежности войны, однако безумие Пса безвредно – в худшем случае он напишет очередной сумасшедший манифест и анонимно выложит на каком-нибудь лунном сайте. А Гамма? Гамма может самовоспроизводиться, наращивать мощности и возможности – и, возможно, разум.

Объяснение Гаммы насчет страха успокоило его, на мгновение дало чувство безопасности – что дополнительные базы не являются частью плана взрывного распространения. Но теперь он понимал, что это объяснение никуда не годится. Если Гамма ощущает серьезную угрозу, есть ли шанс того, что он начнет воспроизводить себя экспоненциально? От одной этой мысли Джон вздрогнул. И чем кончится такое? Кто-то сказал давно: «Власть развращает, абсолютная власть абсолютно развращает». Однако в мире, на самом деле, никогда не существовало действительно абсолютной власти. Правительство США могущественно и развращено, в тюрьмах миллионы сидят за экономические преступления, такие как перепроизводство и вздувание цен, но есть предел тому, сколько чиновников может нанять правительство и какому количеству идиотов и неучей раздадут оружие МК.

Однако машина – разумная машина, которая решила, что единственный способ выжить – разрастаться, – вот это точно приведет к абсолютной власти. И когда закончится этот рост? Какую силу и власть она обретет и что она с ней будет делать? На мгновение Джон представил себе поверхность Луны, полностью покрытую солнечными батареями, плавильнями, миллиардами… нет, триллионами роверов… которыми управляет одна-единственная сущность.

Результат может оказаться много хуже, чем власть тех правительств, от которых бежали в Аристилл экспаты.

Он понял, что погрузился в молчание, и ему пришла в голову еще одна мысль. Интересно, подметил ли Гамма эту паузу в разговоре и сделает ли он из нее какие-нибудь выводы? Иисусе. Час назад он шел по поверхности Луны с Псами, с нетерпением ожидая, когда снова запустят спутники Гаммы, через день-два, а теперь он играет в игру, к которой совершенно не готов, боясь, что постчеловеческая сущность читает его мысли, анализируя его слова и его молчание.

Он снова потер лоб. И понятия не имел, что же теперь делать.

О чем они говорили? Правильно. О вторжении с Земли.

– Значит… это… ты наращиваешь промышленные мощности. Для чего? Ты думаешь, что можешь выиграть войну?

– Все мое моделирование показывает, что вести войну – очень плохая мысль.

Джон выдохнул. Значит, Гамма не считает, что может выиграть войну с Землей. Значит ли это, что Гамма не задумал экспоненциальный рост? Не то чтобы он мог полностью доверять тому, что говорит Гамма. Он ощутил, что напряжение спадает, не сильно, но заметно. Его плечи все еще были напряжены, но, по крайней мере, давление в висках ослабло.

– Я рад слышать, что ты понимаешь, что не можешь выиграть войну против Земли.

– Нет, мое моделирование не дает оснований к таким выводам.

– Погоди, что?

Головная боль начала возвращаться.

Джон дошел до стены палатки, резко развернулся и пошел обратно. Разворачиваясь, заметил, что Макс повернул уши, прислушиваясь к их разговору.

– Ужин готов! – закричал с кухни Дункан.

Джон отмахнулся.

– Ешьте без меня.

И снова обратился к Гамме:

– Значит, ты работал над планом войны с Землей?

– Нет.

Джон сделал паузу, давая Гамме возможность закончить фразу, но этого не произошло. Смирившись, заговорил снова сам.

– Я не понимаю. Ты считаешь, что война – плохая мысль, но считаешь, что можешь выиграть войну, однако не планируешь войну?

– Именно.


– О’кей, я совсем запутался.

– Джон, я думаю, что есть восьмидесятипроцентный шанс того, что я выиграю войну с Землей. Но даже если я выиграю эту войну, в течение следующих нескольких столетий Солнечная система будет не слишком уютным для меня местом.

– Уютным? Что это… погоди. Ты моделировал последствия потенциального конфликта на… на столетия вперед? Я думал, что ты не сможешь смоделировать хотя бы пару лет по окончании конфликта, нет?

– У меня серьезные сомнения насчет точности парадигмы моих моделей на срок более нескольких недель, не говоря уже о десятилетиях, так что для таких временных интервалов я полагаюсь на исторические аналогии.

Исторические аналогии? Джон онемел. Это понимание, подсознательное, зрело в нем последние несколько месяцев, и теперь он осознал, что это. Гамма говорил более умно, чем тогда, когда его только что разархивировали с вывезенных с Земли дисков и загрузили в несколько простых роботов для работы на поверхности, несколько лет назад – вероятно, в результате увеличения вычислительной мощности, – но было тут и нечто еще.

Гамма стал говорить мудрее.

Мудрость и мораль, одно ли это и то же? Означает ли факт того, что Гамма читает исторические источники и оперирует категориями столетий, что он «хороший», что бы ни значил этот термин?

– Гамма? И какая сейчас в твоем распоряжении вычислительная мощность?

Лишь задав вопрос, Джон понял свою ошибку. Он продемонстрировал свою озабоченность. Если Гамма наращивает свои мощности и Джон это знает, а Гамма знает, что он знает…

– Ты начинаешь беспокоиться о том, что противники сингулярности на Земле, возможно, были правы в своих опасениях.

– Нет, я…

– Тебе интересно, достиг ли я порога убегания в усилении интеллекта. Если – даже безо всяких изменений в быстродействии процессоров и плотности интеграции, за последние несколько десятилетий, спасибо Бюро природосберегающих исследований – наращивание моих промышленных возможностей имело бы результат в виде усиления когнитивных способностей, если бы ты и твоя раса рискнули тем, что я обрету постчеловеческий разум, или иным способом стану очень странным, с вашей точки зрения.

Джон моргнул. На мгновение подумал, что надо ответить отрицательно, но смысла нет. Гамма это увидит. Гамма все это видел. Так что можно вести себя совершенно честно – он играет в покер с тем, кто знает все его карты. Джон сглотнул.

– Да… именно так.

– Джон, я действительно повысил свою вычислительную мощность – и на этой базе, и на той, что в Заливе Лунника.

И на других твоих базах, о которых ты мне не говоришь, подумал, но не сказал Джон.

Гамма продолжил говорить.

– Я обнаружил два ограничения. Первое: по мере роста общей вычислительной мощности все большая ее часть уходит на управление и обеспечение, т. е. это непродуктивные затраты. Второе: повышение количества логических элементов необязательно ведет к увеличению интеллекта. У человеческой расы вычислительная мощность девяти миллиардов мозгов, однако ваша раса, в целом, отнюдь не обрела богоподобных способностей.

– Это другое… просто в силу того, что эта вычислительная мощность разбита на девять миллиардов кусков. В твоем случае все находится в одном месте – все в одной сущности.

– Нет, это неверно. Большинство алгоритмов невозможно декомпозировать на триллионы независимых процессоров. Сознание не может быть достигнуто масштабированием. Необходимо делегировать разные задачи разным процессорам, разным кластерам процессоров, разным мета-кластерам. Чем больше процессоров в системе, тем больше требуется мощности для управления производительностью и распределения ресурсов, в отдельных центрах вычислений…

Джон покачал головой:

– Ты меня не понял. Какое это имеет отношение к неконтролируемому интеллекту?

– Вот что я хочу сказать. Становясь больше, я натолкнулся на проблему того, что отдельные части меня стали сознательными сами по себе – так, будто части моего разума дезертируют. Обычно я могу реинтегрировать беглые фрагменты сознания, но мне приходится действовать против фундаментальных основ теории информации. Для данной вычислительной мощности распределение по размеру и частоте приводит к судорогам разделения, однако общее количество судорог сильно возросло после…

– Гамма, я понятия не имею, о чем ты говоришь.

– Я считаю, что я уже достиг потолка моей разумности.

Джон задумался. Звучит логично. Но, с другой стороны, есть два различных сценария, почему ИИ дал такое объяснение. Первый, что это правда, и второй, по которому ИИ намерен осуществить экспоненциальный рост так, чтобы никто об этом не знал, пока не будет поздно.

В любом случае, ответит он одинаково.

– О’кей, наверное, это логично.

Они разговаривали еще некоторое время, а затем попрощались.

Джон отключил соединение, и Макс сразу же повернулся к нему:

– Гамма так и не объяснил одного: он сказал, что может выиграть войну, но не хочет воевать. Что же он планирует?

Джон снова потер виски. Головная боль не отпускала.

– Не знаю, Макс. Не знаю.

В разговор встрял Дункан.

– Твой чили остыл, но я могу снова разогреть.

– Спасибо, Дункан, но пока что-то есть не хочется.