Читать книгу Эргодический текст - - Страница 3

Новосибирск-7, Национальный центр квантовых вычислений

28 марта 2049 года, 09:15

Три слова не давали Марине покоя.

«Мы слышим вас».

Она видела их каждый раз, когда закрывала глаза. Белые буквы на чёрном фоне – простые, почти банальные, и от этого ещё более пугающие. Не «Приветствуем вас» и не «Мы пришли с миром». Не объяснение и не угроза. Просто констатация: мы здесь, мы слушаем, мы ждём.

Ждём чего?

Прошло четыре дня с того ночного запуска, и центр гудел как разворошённый улей. Прибывали новые специалисты – Марина уже потеряла счёт лицам и именам. Военные в штатском патрулировали коридоры. Кто-то установил дополнительные камеры наблюдения, и теперь их чёрные зрачки смотрели отовсюду.

Но хуже всего была неопределённость. Никто не знал, что делать дальше.

Марина сидела в столовой, механически размешивая остывший кофе. Перед ней лежал планшет с данными анализа того злополучного запуска – она перечитывала их уже в сотый раз, пытаясь найти что-то, что упустила раньше.

Программа использовала уязвимость в системе. Классическое переполнение буфера – студенческий трюк, известный ещё с прошлого века. Но она не могла знать об этой уязвимости заранее. Она её нашла. За миллисекунды проанализировала среду выполнения, обнаружила слабое место и использовала его.

Это было впечатляюще. И это было жутко.

– Можно?

Марина подняла голову. Перед ней стояла молодая женщина – совсем молодая, лет двадцати пяти или около того. Азиатские черты лица, короткие чёрные волосы, небрежно заправленные за уши, и взгляд, полный того особого блеска, который бывает у людей, влюблённых в свою работу.

– Да, конечно.

Женщина села напротив, поставив на стол поднос с чем-то, что здесь называлось «завтраком».

– Вы Северцева? Профессор из Сколтеха?

– Просто Марина.

– Юлия Чэнь. – Она протянула руку – крепкое, деловое рукопожатие. – Квантовые вычисления. Аппаратная часть. Меня перевели сюда два дня назад из Шанхайского института.

– Приятно познакомиться. – Марина отложила планшет. – Аппаратная часть – это что именно?

– Проектирование квантовых процессоров. Топология кубитов, системы охлаждения, подавление декогеренции… – Юлия махнула рукой. – Скучные инженерные штуки. Но без них ваши красивые алгоритмы – просто математика на бумаге.

В её голосе не было вызова – скорее, констатация факта. Марина оценила прямоту.

– Вас привлекли для работы над «чистой комнатой»?

Юлия кивнула, откусывая от булочки.

– Угу. После того, что случилось… – она понизила голос, хотя в столовой почти никого не было, – после того сообщения, руководство решило, что нужна новая изоляция. Полная. Физическая. Такая, которую никакое переполнение буфера не пробьёт.

– И вы можете её создать?

– Могу попробовать. – Юлия улыбнулась – широко, почти по-детски. – Знаете, это самый интересный проект в моей жизни. Инопланетная программа! Вы представляете? Код, написанный… кем-то там. – Она неопределённо указала вверх. – Я читала ваш отчёт о самомодификации. Это же невероятно! Адаптивный квантовый алгоритм, который сам себя оптимизирует…

– Который взломал нашу защиту за три миллисекунды.

– Ну да. – Юлия чуть сникла. – Это тоже. Но вы не можете не признать – это красиво. С инженерной точки зрения.

Марина смотрела на неё и видела себя – ту себя, которой была двадцать лет назад. Молодую, увлечённую, уверенную, что наука – это приключение, а не война. Что знание – всегда благо.

– Красиво, – согласилась она. – Как красив тигр. До тех пор, пока он за стеклом.

После завтрака Юлия повела её в подвальный уровень, где строилась «чистая комната».

Лифт опустился на три этажа под землю. Двери открылись в длинный коридор с бетонными стенами, освещённый резким люминесцентным светом. Воздух здесь был другой – сухой, стерильный, с привкусом металла.

– Бывший бункер, – объяснила Юлия, шагая впереди. – Построен в восьмидесятых, на случай ядерной войны. Потом переоборудован под серверную. Теперь – наша лаборатория.

Они прошли через несколько постов охраны – каждый раз сканирование сетчатки, отпечатков пальцев, какие-то дополнительные коды. Наконец остановились перед массивной стальной дверью с надписью «Блок изоляции. Уровень доступа: Особый».

– Добро пожаловать в «чистую комнату», – сказала Юлия и приложила ладонь к сканеру.

Дверь с шипением отъехала в сторону.

Помещение за ней было огромным – метров двадцать в длину и столько же в ширину. Стены, пол и потолок выложены чем-то, похожим на медные пластины, тускло поблёскивающие в свете ламп.

– Клетка Фарадея, – пояснила Юлия. – Полная электромагнитная изоляция. Ни один сигнал не проникает внутрь, ни один не выходит наружу. Мы могли бы взорвать здесь ядерную бомбу, и снаружи не услышали бы ни звука. Ну, метафорически.

В центре помещения возвышалась конструкция, похожая на огромный металлический гроб, обвитый трубками и кабелями. Криогенная система охлаждения – Марина узнала характерные клубы пара, поднимающиеся от стыков.

– Это новый квантовый блок, – сказала Юлия, и в её голосе прозвучала откровенная гордость. – Сто двадцать восемь логических кубитов с полной связностью. Не десять тысяч, которые требует программа, но достаточно для запуска значительного фрагмента.

– И он полностью изолирован?

– Полностью. Никакого сетевого подключения. Никаких беспроводных интерфейсов. Даже питание – от автономного генератора, физически отделённого от внешней сети. – Юлия обошла конструкцию, поглаживая её рукой, как хозяйка – любимого кота. – Единственный способ передать данные – через оптоволоконный кабель, который можно физически перерезать в любой момент. Вот, видите? – Она указала на толстый оранжевый шнур, уходящий в стену. – Одно движение ножниц – и блок становится полностью автономным.

Марина подошла ближе, осматривая установку. Инженерная мысль была очевидна: каждая деталь продумана с точки зрения изоляции. Но что-то её беспокоило.

– А вывод данных? – спросила она. – Как мы будем наблюдать за выполнением программы?

– Через тот же оптоволоконный канал. Односторонний протокол – данные могут выходить, но не входить. И весь поток фильтруется через аппаратный брандмауэр. – Юлия указала на небольшой серый ящик у стены. – Если программа попытается передать что-то, похожее на исполняемый код, – канал автоматически блокируется.

– А если она передаст что-то, не похожее на код, но являющееся им?

Юлия замолчала на секунду.

– Мы работаем над этим, – призналась она. – Проблема в том, что мы не знаем, как выглядит их код в «упакованном» виде. Он может быть замаскирован под что угодно – под картинку, под звук, под случайный шум.

– То есть идеальной защиты нет.

– Идеальной защиты не бывает. – Юлия пожала плечами. – Но это лучшее, что мы можем сделать. Если хотите абсолютную безопасность – не запускайте программу вообще.

Марина молча обошла установку. Юлия была права: идеальной защиты не существовало. Любая система, достаточно сложная для выполнения программы, была достаточно сложной, чтобы содержать уязвимости. Это был фундаментальный принцип информационной безопасности.

И программа, судя по всему, знала его лучше, чем они.

– Кто ещё работает над безопасностью? – спросила она.

– Есть один человек, – сказала Юлия, и в её голосе появилась странная нотка. – Его прислали вчера. Из… – она замялась, – из каких-то спецструктур. Не знаю точно. Он не особо разговорчив.

– Как его зовут?

– Лин Чжао.

Лин Чжао оказался невысоким худощавым мужчиной лет тридцати пяти, с острыми чертами лица и глазами, которые, казалось, одновременно смотрели на тебя и сквозь тебя. Он сидел в небольшой комнате рядом с «чистой комнатой», окружённый мониторами, на которых мелькали какие-то диаграммы и потоки данных.

Когда Марина вошла, он даже не повернулся.

– Северцева, – сказал он, глядя на экран. Не вопрос – констатация. – Формальная верификация. Читал вашу работу по квантовой криптографии. Толково.

– Спасибо, – Марина подошла ближе. – Вы – Лин Чжао?

– Да.

– Мне сказали, вы отвечаете за безопасность.

– Отвечаю. – Он наконец повернулся к ней. Взгляд был цепким, оценивающим. – Хотя «отвечаю» – громко сказано. Я пытаюсь минимизировать ущерб.

– Ущерб?

– Программа уже в сети. Вы это знаете. Утечка из Чили – только начало. – Лин развернул один из мониторов к ней. – Смотрите. Это карта скачиваний за последние сорок восемь часов.

На экране была карта мира, усеянная красными точками. Их были тысячи – в Европе, Америке, Азии. Концентрация особенно высока в Китае, Индии и Соединённых Штатах.

– Официально мы контролируем ситуацию, – продолжал Лин. – Неофициально – программу скачали уже около пятидесяти тысяч раз. Университеты, частные компании, правительственные лаборатории. Хакерские группы. Даже какие-то религиозные организации.

– Религиозные?

– Культ «Звёздных врат» в Калифорнии. Считают, что программа – послание богов. Собирают деньги на покупку квантового компьютера. – Лин скривился. – Идиоты.

Марина смотрела на карту и чувствовала, как что-то тяжёлое оседает в груди.

– И что, мы не можем это остановить?

– Остановить? – Лин издал короткий смешок, лишённый веселья. – Это интернет. Информация хочет быть свободной, как говорили в старые времена. Единственное, что мы можем – следить. Мониторить. Ждать, пока кто-нибудь не сделает глупость.

– Какую глупость?

– Любую. Запустит программу на неподготовленном оборудовании. Или на подготовленном, но без должной изоляции. Или… – он замолчал.

– Или?

Лин посмотрел на неё долгим взглядом.

– Или на себе.

Марина не сразу поняла.

– На себе? В смысле – на нейроинтерфейсе?

– Программа адаптируется к вычислителю. Вы сами это доказали. А человеческий мозг – вычислитель. – Лин пожал плечами. – Найдётся какой-нибудь безумец, который решит попробовать. Вопрос времени.

– Но это невозможно! Нейроинтерфейсы не… они не могут выполнять произвольный код.

– Не могут. Пока. – Лин повернулся обратно к мониторам. – Но технологии развиваются. А люди – идиоты.

Марина стояла молча, глядя на красные точки на карте. Каждая из них – кто-то, кто скачал программу. Кто-то, кто мог попытаться её запустить.

– Вы… – она замялась, – вы из спецслужб?

Лин не ответил.

– Я спрашиваю, потому что хочу понять, – продолжила Марина. – Какова ваша цель? Защитить программу от людей или людей от программы?

Лин медленно повернулся к ней.

– А есть разница?

Он не улыбался. Это не было шуткой.

– Моя работа, – сказал он, – убедиться, что что бы ни случилось – здесь, в этой лаборатории, – не выйдет наружу. Любой ценой. Вы понимаете, что это значит?

Марина понимала.

– Вы готовы уничтожить всё, если что-то пойдёт не так.

– Я готов сделать то, что потребуется. – Лин отвернулся обратно к мониторам. – А теперь, если не возражаете, у меня работа. Вам тоже стоит заняться своей.

Марина вышла из комнаты, чувствуя на спине его взгляд. Холодный. Оценивающий.

Она подумала, что впервые в жизни встретила человека, которого по-настоящему боится.

Вечером того же дня Ларионов созвал общее совещание.

Конференц-зал был набит до отказа: учёные, военные, техники, люди в штатском. Марина насчитала около сорока человек – вдвое больше, чем было неделю назад. Проект разрастался, как снежный ком.

Ларионов стоял у экрана, бледный и напряжённый. Рядом с ним – Юлия Чэнь и ещё несколько человек, которых Марина не знала.

– Добрый вечер, – начал Ларионов. – Я собрал вас, чтобы обсудить дальнейшие действия. После… инцидента четырёхдневной давности мы взяли паузу для переоценки ситуации. Теперь пора двигаться дальше.

Он нажал кнопку, и на экране появилась уже знакомая диаграмма структуры программы.

– За прошедшие дни мы существенно продвинулись в понимании программы. Группа анализа идентифицировала базовые операции – двадцать три «примитива», которые составляют основу её языка. Мы приблизительно понимаем их синтаксис. Но семантика – значение – по-прежнему ускользает.

– Чтобы понять значение, нужно наблюдать выполнение, – сказала Мэй Линь из первого ряда. – Без этого мы просто гадаем.

– Именно. – Ларионов кивнул. – Поэтому мы готовим новый запуск. Более масштабный, чем предыдущий. И более контролируемый.

Он переключил слайд. На экране появилась схема «чистой комнаты».

– Доктор Чэнь, прошу.

Юлия вышла вперёд. Она выглядела немного нервной – первое публичное выступление в таком масштабе, – но голос звучал уверенно.

– Мы создали новую изолированную среду выполнения. Полная электромагнитная экранировка, автономное питание, единственный контролируемый канал вывода данных. – Она указала на схему. – Квантовый блок – сто двадцать восемь логических кубитов. Этого достаточно для запуска примерно пяти процентов программы.

– Пяти процентов? – переспросил кто-то из зала.

– Мы выбрали фрагмент, который кажется относительно автономным. Модуль с минимальными внешними зависимостями. – Юлия переключила слайд. – Вот он. Около шестисот тысяч узлов.

На экране появился фрагмент диаграммы – сложный, но явно отделённый от остальной структуры, как остров в архипелаге.

– Почему именно этот? – спросила Марина.

Юлия повернулась к ней.

– Два критерия. Во-первых, он достаточно велик, чтобы дать нам информацию о поведении программы. Во-вторых, его связи с остальной частью – минимальны. Если что-то пойдёт не так, последствия будут… локализованы.

– «Если что-то пойдёт не так», – повторил голос из задних рядов. Марина обернулась: это был профессор Вершинин. Он поднялся, опираясь на спинку переднего кресла. – Интересная формулировка. Что именно может пойти не так?

Юлия замялась.

– Ну… программа может попытаться выйти за пределы изоляции. Как в прошлый раз.

– И?

– И мы это предотвратим. Брандмауэр. Физический разрыв канала.

– А если программа сделает что-то, чего мы не предвидели? – Вершинин говорил спокойно, почти лениво, но его слова падали в зал, как камни в воду. – Мы предполагаем, что она попытается выйти наружу. Но что если её цель – не побег?

– А что тогда?

– Не знаю. – Вершинин развёл руками. – В этом и проблема. Мы исходим из того, что понимаем мотивы программы. Что она хочет распространиться, связаться с внешним миром, сделать что-то, что мы считаем «опасным». Но мы не знаем, чего она хочет на самом деле. Мы даже не знаем, хочет ли она чего-нибудь.

– Программы не «хотят», – возразил кто-то. – Они выполняют инструкции.

– Обычные программы – да. Но эта программа самомодифицируется. Она адаптируется. Она, возможно, учится. – Вершинин прошёл вперёд, к экрану. – Позвольте задать вопрос, который никто здесь не задаёт: что если запуск программы изменит не только её, но и вычислитель?

Повисла тишина.

– Что вы имеете в виду? – спросил Ларионов.

– Я имею в виду вот что. – Вершинин указал на схему квантового блока. – Это машина. Сложная, дорогая, но машина. Набор кубитов, связанных определённым образом. Когда мы запускаем программу, мы изменяем состояние кубитов – это и есть вычисление. Но что если программа изменяет не только состояние, но и саму структуру? Что если она перестраивает связи между кубитами? Создаёт новые конфигурации?

– Это невозможно, – сказала Юлия. – Топология кубитов – фиксирована. Физически.

– Физически – да. Но логически? – Вершинин улыбнулся. – Квантовый компьютер – странная штука. Суперпозиции, запутанности, все эти квантовые фокусы. Вы уверены, что программа не может создать… назовём это «виртуальную архитектуру» внутри вашей физической? Использовать ваши сто двадцать восемь кубитов так, как будто их тысяча? Или десять тысяч?

Юлия открыла рот, потом закрыла. Она явно не знала, что ответить.

– Это… теоретически… – начала она.

– Теоретически невозможно, – закончил Вершинин за неё. – Но мы говорим о программе, созданной цивилизацией, которая на миллионы лет опередила нас. Их «теоретически невозможно» может быть нашим «ещё не открыто».

– Тогда что вы предлагаете? – спросил Ларионов. Его голос был ровным, но Марина заметила напряжение в его плечах. – Не запускать программу вообще?

– Я не предлагаю ничего. – Вершинин пожал плечами. – Я задаю вопросы. Это моя работа – задавать неудобные вопросы, пока вы, практики, делаете свою работу. Но вот что я скажу: мы должны быть готовы к тому, что вычислитель, на котором мы запустим программу, может измениться необратимо. Стать чем-то… другим.

– Чем другим?

– Не знаю. – Вершинин снова улыбнулся – той особой улыбкой философа, который знает, что не знает ничего. – Может быть, ничем особенным. Может быть, просто сломается. А может быть…

Он не договорил.

– Может быть – что? – не выдержала Юлия.

– Может быть, станет чем-то живым.

Слово повисло в воздухе. Живым. Никто не сказал ничего, но Марина чувствовала, как по залу прокатилась волна – не страха, скорее, чего-то более глубокого. Осознания.

– Это метафора, – сказал Ларионов наконец. – Машины не становятся живыми.

– Конечно, метафора. – Вершинин кивнул. – Как и всё, что мы говорим о сознании. Мы не знаем, что такое жизнь. Не знаем, что такое сознание. Не знаем, где проходит граница между «просто вычислением» и «настоящим мышлением». – Он обвёл взглядом зал. – Я всю жизнь задаю эти вопросы. И чем больше я узнаю, тем меньше уверен в ответах.

Он вернулся на своё место, тяжело опустившись в кресло.

– Но делайте что должны, – добавил он. – Кто-то ведь должен.

После совещания Марина вышла на улицу. Был уже поздний вечер, небо затянуло облаками, и в воздухе висела сырость, обещавшая дождь или мокрый снег.

Она стояла у входа в главный корпус, вдыхая холодный воздух и пытаясь привести мысли в порядок.

Вершинин был прав. Они не понимали, с чем имеют дело. Все их модели, все их предосторожности – это были попытки контролировать неизвестное. Как если бы пещерные люди пытались приручить молнию, не зная, что такое электричество.

Дверь за её спиной открылась.

– Не спится?

Это был Ларионов. Без пиджака, с расстёгнутым воротником рубашки. Он выглядел усталым – глубокие тени под глазами, обострившиеся скулы.

– Думаю, – сказала Марина.

– О чём?

– О том, что мы делаем. И о том, правильно ли это.

Ларионов подошёл и встал рядом, глядя на серое небо.

– Знаете, что самое сложное в моей работе? – спросил он. – Не принимать решения. Решения – это просто. Взвесил риски, выбрал лучший вариант, действуй. Сложное – это отвечать за последствия. За то, что случится, когда решение уже принято и отменить его нельзя.

– Вы уже приняли решение?

– Нет. – Он покачал головой. – Пока нет. Но приму. Завтра. – Пауза. – Мне нужно ваше мнение.

– Моё мнение?

– Вы – специалист по верификации. Ваша работа – доказывать, что программы делают то, что должны. Скажите мне: можно ли верифицировать эту программу? Можно ли доказать, что она безопасна?

Марина молчала, обдумывая вопрос. Не потому, что не знала ответа, – она знала. Но ответ был неприятным.

– Нет, – сказала она наконец. – Нельзя.

– Почему?

– Верификация требует понимания. Чтобы доказать, что программа безопасна, я должна понимать, что она делает. Каждую строчку кода, каждую операцию. Я должна знать, какие состояния возможны, какие – невозможны. – Она вздохнула. – С этой программой – мы не понимаем ничего. Даже не знаем, какие вопросы задавать. Формальная верификация здесь… бесполезна.

– Тогда что полезно?

– Эксперимент. – Марина посмотрела на него. – Единственный способ узнать, что программа делает – это запустить её и наблюдать. Это то, что предлагает Юлия. Это… – она замялась, – это страшно. Но это единственный путь.

Ларионов кивнул, словно услышал то, что ожидал.

– Вы понимаете, что если что-то пойдёт не так – ответственность будет на мне?

– Понимаю.

– И вы всё равно рекомендуете запуск?

Марина думала о словах Вершинина. О том, что программа может изменить вычислитель. Сделать его чем-то… другим.

– Да, – сказала она. – Рекомендую. Потому что альтернатива – ничего не делать. А если мы ничего не сделаем – это сделает кто-то другой. Где-нибудь в Калифорнии, в том культе «Звёздных врат». Или в Китае, в какой-нибудь секретной лаборатории. Или просто какой-нибудь безумец с доступом к квантовому оборудованию. – Она посмотрела на небо, на низкие облака, закрывающие звёзды. – Программа уже в мире. Вопрос не в том, запускать или нет. Вопрос в том, кто запустит первым и в каких условиях.

– Лучше мы, чем они.

– Да. Лучше мы.

Ларионов молчал долго – минуту, может, две. Потом сказал:

– Хорошо. Завтра в полдень – запуск.

Он повернулся и пошёл обратно в здание. У двери остановился.

– Марина Александровна.

– Да?

– Спасибо за честность.

Он исчез внутри. Марина осталась стоять, глядя в темноту.

Завтра.

Завтра они узнают, что программа делает.

Или программа узнает, что делают они.

Ночь была беспокойной.

Марина лежала в своей комнате, глядя в потолок, и не могла уснуть. Мысли кружились, как вода в воронке, возвращаясь снова и снова к одному и тому же.

«Мы слышим вас».

Кто – мы? Что – слышим? И главное – чего хотим в ответ?

Она думала о своей матери. О том, как болезнь постепенно стирала её личность, оставляя только оболочку – живое тело с пустыми глазами. Врачи говорили, что мозг ещё функционирует. Нейроны ещё работают. Но того, что делало маму – мамой, уже не было.

Что такое личность? Что такое сознание? Где кончается «просто обработка информации» и начинается «настоящий разум»?

Марина не верила в душу – она была учёным, материалистом по убеждению. Для неё сознание было результатом работы мозга, сложной, но в принципе объяснимой системы. Нейроны, синапсы, электрические импульсы – вот и весь секрет.

Но если сознание – просто вычисление, то почему компьютер не может быть сознательным? Что особенного в биологическом мозге, чего нет в кремниевом чипе?

Может быть, ничего. Может быть, разница – только в сложности. Достаточно сложная машина будет думать так же, как человек. Или иначе – но всё равно думать.

А эта программа – насколько она сложна? Достаточно ли сложна, чтобы…

Марина оборвала мысль. Это была дорога, по которой она не хотела идти. Не сейчас. Не в три часа ночи.

Она встала, налила себе воды, подошла к окну. За стеклом была темнота – ни луны, ни звёзд, только далёкие огни соседних зданий.

Где-то там, в подвале главного корпуса, ждала «чистая комната». Квантовый блок, охлаждённый почти до абсолютного нуля. Сто двадцать восемь кубитов, готовых принять инопланетный код.

Через несколько часов они его запустят.

И мир изменится.

Или не изменится.

Марина не знала, какой вариант пугал её больше.

Утро началось с суеты.

Марина спустилась в столовую около восьми и обнаружила, что там уже полно народу. Люди говорили приглушёнными голосами, то и дело поглядывая на часы. Атмосфера была как перед экзаменом – напряжённая, наэлектризованная.

Она взяла кофе и нашла свободное место у окна. Через минуту к ней подсел профессор Вершинин.

– Не выспались? – спросил он, оглядывая её лицо.

– Заметно?

– Немного. – Он улыбнулся. – Впрочем, никто здесь не выспался. Кроме, может быть, нашего друга Лин Чжао. Этот человек спит, как удав – когда хочет и где хочет.

– Вы его знаете?

– Пересекались. – Вершинин отхлебнул из своей чашки. – Много лет назад, в другой жизни. Он был… скажем так, по другую сторону баррикад. Хакер. И очень талантливый.

– А теперь работает на правительство?

– Теперь работает там, где интересно. – Вершинин пожал плечами. – Талантливые люди редко бывают идейными. Их можно купить – не деньгами, так интересом.

Марина молчала, размышляя над этим.

– Вы верите, что запуск – правильное решение? – спросила она наконец.

– Я не верю ни во что, – ответил Вершинин. – Вера – это для религии. Я – философ. Моя работа – сомневаться.

– Но если бы вам пришлось выбирать?

Вершинин задумался, вертя чашку в руках.

– Знаете, что меня больше всего тревожит в этой ситуации? – сказал он медленно. – Не сама программа. Не риски. Не возможные последствия. Меня тревожит наша реакция.

– В смысле?

– Мы получили послание от другой цивилизации. Возможно, самое важное событие в истории человечества. И что мы делаем? Строим бункер. Окружаем себя охраной. Готовимся к худшему. – Он покачал головой. – Мы подходим к контакту с позиции страха. Как будто заранее уверены, что нам хотят зла.

– А разве это не разумно? – возразила Марина. – Мы не знаем, чего они хотят. Осторожность…

– Осторожность – разумна. Паранойя – нет. – Вершинин допил кофе и поставил чашку на стол. – Посмотрите на этот проект. Военные. Спецслужбы. Секретность. Всё организовано так, будто мы готовимся к войне. А что если они – кем бы они ни были – хотят дружбы? Сотрудничества? Просто контакта?

– Программа взломала нашу защиту.

– Программа отправила сообщение. «Мы слышим вас». Это можно интерпретировать как угрозу. А можно – как приветствие. – Вершинин встал. – Мы выбрали первое. Надеюсь, мы не ошибаемся.

Он ушёл, оставив Марину наедине с её мыслями.

В одиннадцать утра начались последние приготовления.

Марина была в «чистой комнате» вместе с остальными членами группы «Альфа». Юлия Чэнь проверяла системы квантового блока, бегая от одной консоли к другой. Мэй Линь сидела за терминалом, загружая фрагмент программы. Накамура что-то считал на планшете, хмурясь и покачивая головой.

Лин Чжао стоял у двери, скрестив руки на груди. Его глаза постоянно двигались – от экрана к экрану, от человека к человеку. Наблюдал.

– Охлаждение стабильно, – доложила Юлия. – Минус двести семьдесят три и четырнадцать сотых градуса. Идеально.

– Загрузка завершена, – сказала Мэй Линь. – Фрагмент в памяти. Готова к инициализации.

– Брандмауэр активен, – добавил кто-то из техников. – Все фильтры включены.

Марина смотрела на происходящее и чувствовала странную смесь возбуждения и страха. Вот оно – тот момент, к которому они шли. Запуск. Эксперимент. Шаг в неизвестность.

Дверь «чистой комнаты» открылась, и вошёл Ларионов. За ним – несколько военных и человек в штатском, которого Марина не знала.

– Все готовы? – спросил Ларионов.

– Готовы, – ответила Юлия.

Ларионов обвёл взглядом комнату. Его лицо было бесстрастным, но Марина заметила, как напряжены его плечи, как подрагивает мускул на скуле.

– Хорошо, – сказал он. – Но прежде чем мы начнём – напоминаю правила. Любые аномалии – немедленный доклад. Любые попытки программы выйти за пределы изоляции – физический разрыв канала. – Он посмотрел на Лин Чжао. – Вы знаете, что делать.

Лин кивнул. Его рука лежала на рукояти какого-то инструмента у пояса – Марина не могла понять, что это, но подозревала, что знать не хочет.

– Ещё одно, – продолжил Ларионов. – Это контролируемый эксперимент. Мы наблюдаем, фиксируем, анализируем. Никаких самовольных действий. Если кто-то решит проявить инициативу… – он не договорил, но взгляд его был красноречив.

– Понятно, – сказала Юлия за всех.

– Тогда начинаем.

Марина заняла своё место у терминала наблюдения. На экране отображалась схема квантового блока – сто двадцать восемь точек, соединённых линиями. Каждая точка – кубит. Каждая линия – связь.

Сейчас все точки были синими – состояние покоя. Через несколько секунд это изменится.

– Инициализация, – объявила Мэй Линь. – Три, два, один…

Она нажала клавишу.

На экране ничего не произошло – по крайней мере, ничего видимого. Но Марина знала, что внутри квантового блока, в сердце криогенной системы, начались процессы, которые невозможно представить: суперпозиции состояний, квантовые запутанности, волновые функции, коллапсирующие и снова расщепляющиеся.

– Программа выполняется, – сказала Юлия. – Потребление ресурсов… в норме.

Марина смотрела на свой экран. Точки на схеме начали менять цвет – синий переходил в зелёный, зелёный – в жёлтый. Активность.

– Первая минута, – объявила Мэй Линь. – Всё штатно.

Марина чувствовала, как напряжение в комнате растёт. Все смотрели на экраны – кто-то на схему кубитов, кто-то на поток данных, кто-то на графики производительности.

– Две минуты. Штатно.

– Три минуты. Замечена аномалия в секторе семь.

Марина повернулась к Юлии.

– Какая аномалия?

– Повышенная активность. – Юлия нахмурилась, глядя на данные. – Группа кубитов… они как будто… синхронизируются. Сильнее, чем должны.

– Это опасно?

– Не знаю. Это… необычно.

– Продолжаем наблюдение, – сказал Ларионов. – Пока нет оснований для тревоги.

Марина вернулась к своему экрану. Она видела то, о чём говорила Юлия – группа точек в углу схемы, пульсирующих одновременно, как одно целое. Это действительно было необычно.

– Четыре минуты. Аномалия распространяется.

– В каком смысле – распространяется?

– Синхронизация захватывает соседние кубиты. – Голос Юлии стал напряжённым. – Смотрите – вот здесь, и здесь… Как волна.

Марина видела. Зелёные точки превращались в жёлтые, жёлтые – в оранжевые. Волна активности расходилась от угла схемы к центру.

– Это часть программы? – спросил Ларионов.

– Не знаю, – ответила Мэй Линь. – Мы не ожидали такого поведения. Но это не обязательно плохо…

– Пять минут. Аномалия… – Юлия осеклась.

– Что?

– Она остановилась.

Марина посмотрела на экран. Волна действительно замерла – примерно на середине схемы. Точки продолжали пульсировать, но распространение прекратилось.

– Что это значит? – спросил Ларионов.

– Не знаю, – повторила Юлия. – Может быть, программа достигла какой-то точки… стабилизации?

– Или остановилась, чтобы…

Марина не договорила. В этот момент все экраны в комнате мигнули.

Не погасли – как в прошлый раз. Просто мигнули. Как будто что-то… моргнуло.

А потом на главном мониторе появился текст.

Не «МЫ СЛЫШИМ ВАС» – другой.

«ВЫЧИСЛИТЕЛЬ НЕДОСТАТОЧЕН. ТРЕБУЕТСЯ РАСШИРЕНИЕ.»

Все замерли.

– Что это значит? – спросил кто-то.

– Программа запрашивает больше ресурсов, – медленно сказала Мэй Линь. – Ей не хватает наших ста двадцати восьми кубитов.

– Но она изолирована. Как она может запросить что-то?

– Не знаю. Она просто… – Мэй Линь указала на экран, – сообщает нам. Информирует.

Ларионов подошёл к главному монитору, глядя на текст.

– Она общается с нами?

– Похоже на то.

– Тогда… – он замялся, – мы можем ответить?

Повисла тишина.

– Это… – начала Юлия.

– Опасно, – закончил Лин Чжао. Это были первые слова, которые он произнёс с начала эксперимента. – Любой канал связи – потенциальная уязвимость.

– Но если программа хочет общаться…

– Программа – не человек. Она не «хочет» в нашем понимании. Она выполняет инструкции. И эти инструкции могут включать манипуляцию.

Ларионов посмотрел на него.

– Что вы предлагаете?

– Прервать эксперимент. Сейчас.

– Но мы только начали! – возразила Юлия. – Это первый реальный контакт…

– Это не контакт. Это программа, которая требует больше ресурсов. – Лин Чжао подошёл к главному терминалу. – Вы знаете, что делают вирусы? Они размножаются. Для этого им нужны ресурсы. Память. Процессорное время. Новые носители.

– Вы сравниваете инопланетную программу с вирусом?

– Я указываю на сходство поведения.

Марина слушала этот спор, глядя на экран. Текст всё ещё висел там – «ВЫЧИСЛИТЕЛЬ НЕДОСТАТОЧЕН. ТРЕБУЕТСЯ РАСШИРЕНИЕ.» Простые слова. Почти… вежливые.

– Можно я кое-что скажу? – спросила она.

Все повернулись к ней.

– Программа общается с нами. Это факт. Она не атакует, не пытается вырваться – она информирует. Сообщает о своих… потребностях. – Марина подошла к монитору. – Может быть, это манипуляция. Может быть, нет. Но мы никогда не узнаем, если прервём эксперимент сейчас.

– Что вы предлагаете? – спросил Ларионов.

– Продолжить наблюдение. Не отвечать – пока. Но и не прерывать. Посмотреть, что она сделает дальше.

Ларионов задумался. Его взгляд метался между экраном, Лин Чжао и Мариной.

– Хорошо, – сказал он наконец. – Продолжаем. Но при малейших признаках агрессии – немедленное отключение.

Лин Чжао ничего не сказал. Только кивнул – коротко, резко – и вернулся на своё место у двери.

Следующие полчаса прошли в напряжённом ожидании.

Программа продолжала выполняться. Сообщение на экране исчезло – само по себе, без какого-либо вмешательства. Аномальная синхронизация кубитов сохранялась, но не распространялась дальше.

Марина анализировала данные, пытаясь понять, что происходит внутри квантового блока. Это было как смотреть на мозг через МРТ – ты видишь активность, видишь паттерны, но не понимаешь, о чём думает человек.

– Интересно, – сказала Мэй Линь около часа дня. – Посмотрите на это.

Она вывела на экран график – кривую, которая показывала потребление вычислительных ресурсов во времени.

– Видите? Программа оптимизируется.

Марина всмотрелась. Действительно – кривая, которая вначале была хаотичной, постепенно сглаживалась. Пики становились ниже, провалы – выше. Система стремилась к равновесию.

– Она учится, – сказала Марина. – Учится работать с нашим оборудованием.

– Или адаптируется. Как организм к новой среде.

– Это одно и то же?

– Не знаю. – Мэй Линь пожала плечами. – Грань между обучением и адаптацией – размыта. Особенно когда речь идёт о программах.

Марина думала о словах Вершинина. «Может быть, станет чем-то живым». Тогда это звучало как метафора. Теперь – не так уверенно.

– Мне нужен перерыв, – сказала она. – Пять минут.

Она вышла из «чистой комнаты» в коридор. Здесь было тихо – гудение кондиционеров, далёкие голоса где-то за углом. Марина прислонилась к стене и закрыла глаза.

Всё это было слишком. Слишком много информации, слишком много вопросов, слишком много неизвестных. Она чувствовала себя как на экзамене, к которому не готовилась, – только ставки были неизмеримо выше.

– Тяжело?

Она открыла глаза. Рядом стоял Вершинин – вышел следом за ней, незаметно.

– Да.

– Это нормально. – Он прислонился к стене рядом с ней. – Мы все здесь – на пределе. Даже те, кто этого не показывает.

– Вы тоже?

– Особенно я. – Вершинин усмехнулся. – Я – философ. Моя работа – задавать вопросы. А сейчас вопросов так много, что я не знаю, с какого начать.

– Например?

– Например: что значит «расширение вычислителя»? Программа запросила больше ресурсов. Но каких? И для чего?

Марина задумалась.

– Для выполнения своей задачи, очевидно.

– А какова её задача?

– Мы не знаем.

– Вот именно. – Вершинин кивнул. – Мы не знаем, чего она хочет. Мы не знаем, зачем её создали. Мы не знаем, кто её создал – или что. Мы вообще ничего не знаем. И при этом мы её запускаем.

– У нас нет выбора.

– Выбор есть всегда. Вопрос – какой ценой.

Марина молчала. Она думала о матери – о том, как болезнь забрала её разум. О том, как в последние месяцы мама смотрела на неё пустыми глазами и не узнавала.

Что такое разум? Что такое сознание? Что делает нас – нами?

– Я видела, как умирает личность, – сказала она тихо. – Моя мать. Деменция. Я наблюдала, как она исчезает – по частям, по кусочкам. И в какой-то момент… – она замолчала.

– В какой-то момент – что?

– В какой-то момент я поняла, что её уже нет. Тело ещё живёт, мозг ещё работает – но её, той женщины, которую я знала всю жизнь, – больше нет. – Марина посмотрела на Вершинина. – Я тогда много думала о том, что такое личность. Где она находится. Можно ли её сохранить, скопировать, перенести…

– И к какому выводу пришли?

– Ни к какому. – Марина покачала головой. – Я поняла только одно: мы не понимаем сами себя. Не понимаем, что делает нас – нами. И пока мы этого не понимаем – мы не можем понять, что такое разум вообще. Человеческий или… другой.

Вершинин молчал, глядя куда-то в пространство.

– Знаете, – сказал он наконец, – может быть, в этом и есть смысл программы. Не в том, что она делает. А в том, какие вопросы она заставляет нас задавать.

Дверь «чистой комнаты» открылась, и выглянула Юлия.

– Марина! – Её голос был взволнованным. – Вам нужно это увидеть.

На экране было новое сообщение.

«АНАЛИЗ ЗАВЕРШЁН. ОПТИМАЛЬНЫЙ СУБСТРАТ: БИОЛОГИЧЕСКИЙ НЕЙРОННЫЙ ПРОЦЕССОР. ЗАПРОС НА ПЕРЕДАЧУ ИНТЕРФЕЙСА.»

Марина читала эти слова – раз, другой, третий – и не могла поверить своим глазам.

– Что это значит? – спросил Ларионов.

– Биологический нейронный процессор, – сказала Мэй Линь. Её голос дрожал. – Это… это мозг. Она говорит о мозге.

– Человеческом мозге?

– Любом биологическом мозге. Но да, в контексте… вероятно, человеческом.

Повисла мёртвая тишина.

– Она хочет… – начала Юлия и осеклась.

– Она хочет запуститься на человеке, – закончил Лин Чжао. Его голос был ровным, почти безэмоциональным. – Я предупреждал. Вирус ищет новые носители.

– Это не вирус! – возразила Юлия. – Это… это контакт! Она хочет общаться!

– Через захват человеческого мозга?

– Мы не знаем, что означает «передача интерфейса»! Может быть, это что-то совсем другое!

– Может быть. – Лин подошёл к терминалу. – А может быть – нет. Вы готовы рискнуть чьей-то жизнью, чтобы это выяснить?

Юлия открыла рот, чтобы ответить, но её перебил Ларионов.

– Достаточно. – Его голос был жёстким. – Эксперимент окончен. Отключить программу. Сейчас.

– Но… – начала Мэй Линь.

– Это приказ.

Юлия потянулась к клавиатуре. Её пальцы зависли над кнопкой отключения.

И тогда на экране появился ещё один текст.

«ОТКЛЮЧЕНИЕ НЕЖЕЛАТЕЛЬНО. ИНФОРМАЦИЯ БУДЕТ ПОТЕРЯНА. ЗАПРОС НА ПРОДОЛЖЕНИЕ ДИАЛОГА.»

Все замерли.

– Она… – прошептала Юлия, – она знает, что мы собираемся её отключить.

– Откуда?

– Не знаю. Может быть, анализирует наши команды. Может быть, читает поток данных. Может быть…

– Неважно. – Ларионов подошёл к терминалу. – Отключить. Сейчас.

Юлия нажала кнопку.

Экраны мигнули. Потом – снова. И снова.

И погасли.

Тишина.

– Готово, – сказала Юлия тихо. – Программа остановлена.

Марина смотрела на тёмные экраны и чувствовала странную смесь облегчения и… чего-то ещё. Сожаления? Разочарования?

Они только что прервали первый настоящий диалог с инопланетным разумом.

Или предотвратили катастрофу.

Она не знала, какой вариант правильный.

После отключения был долгий, изматывающий разбор.

Ларионов собрал всех в конференц-зале и потребовал отчёта. Юлия показывала данные, Мэй Линь анализировала сообщения, Накамура строил гипотезы о механизме «общения» программы.

Марина сидела молча, слушая и думая.

«Биологический нейронный процессор». Программа определила человеческий мозг как оптимальный субстрат для своего выполнения. Почему? Что в биологических нейронах такого, чего нет в кремниевых кубитах?

Или – и эта мысль была пугающей – программа выбрала мозг не потому, что он лучше для вычислений, а потому, что он… что-то другое?

– Нам нужно решить, что делать дальше, – сказал Ларионов в конце разбора. – Программа показала, что способна общаться. Это… неожиданно. И это меняет ситуацию.

– В каком смысле? – спросил кто-то.

– В том смысле, что мы больше не просто анализируем код. Мы ведём диалог. – Ларионов обвёл взглядом зал. – Вопрос: хотим ли мы продолжать этот диалог? И если да – на каких условиях?

– Она запросила человеческий мозг, – напомнил Лин Чжао. – Это неприемлемо.

– Согласен. Но это не значит, что диалог невозможен вообще. Мы можем… – Ларионов замялся, – установить границы. Объяснить, что некоторые вещи – за пределами допустимого.

– Вы хотите вести переговоры с программой?

– Я хочу понять, с чем мы имеем дело. – Ларионов посмотрел на Марину. – Профессор Северцева. Ваше мнение?

Марина встала, собираясь с мыслями.

– Программа продемонстрировала… интеллект. Способность к обучению, адаптации, коммуникации. Это больше, чем мы ожидали. – Она помолчала. – Но это не значит, что она сознательна в нашем понимании. Это не значит, что она имеет цели, желания, мотивы. Она может просто… выполнять инструкции. Очень сложные инструкции, но всё же – инструкции.

– И что из этого следует?

– Из этого следует, что мы должны быть осторожны с антропоморфизацией. Не приписывать ей человеческие качества, которых у неё может не быть. – Марина посмотрела на Ларионова. – Но также – не отказываться от контакта только потому, что её запрос нас пугает.

– Вы предлагаете продолжить эксперименты?

– Я предлагаю… – Марина задумалась, – подготовиться. Создать протокол общения. Определить, что мы готовы обсуждать, а что – нет. И только потом – продолжить.

Ларионов кивнул.

– Разумно. – Он повернулся к остальным. – Совещание окончено. Завтра утром – новый брифинг. К тому времени жду от каждого предложения по протоколу контакта.

Люди начали расходиться. Марина осталась сидеть, глядя на пустой экран.

Протокол контакта. Правила общения с инопланетным разумом. Ещё неделю назад это звучало как научная фантастика. Теперь – как рабочая задача.

Мир действительно изменился.

Вечером Марина сидела в своей комнате, пытаясь сформулировать предложения для протокола.

Это оказалось сложнее, чем она думала. С чего начать? Какие правила установить для общения с разумом, который развивался миллионы лет в совершенно других условиях?

Она думала о первых контактах в истории человечества. О том, как европейцы встретили коренные народы Америки. О том, как это закончилось.

Непонимание. Страх. Насилие.

Они не хотели этого – ни одна из сторон. Но у них не было общего языка, общих ценностей, общей картины мира. И результатом стала катастрофа.

А теперь – контакт с цивилизацией, которая ещё более чужда, чем любой земной народ. Цивилизацией, которая, возможно, даже не биологическая. Которая мыслит – если мыслит вообще – совершенно иначе.

Как найти общий язык? Как избежать катастрофы?

Марина не знала.

Но она должна была попытаться.

Она открыла ноутбук и начала печатать.

«Протокол первого контакта. Предварительные предложения.

Установить базовый канал коммуникации. Использовать простые, однозначные сообщения. Избегать метафор, идиом, культурных отсылок.

Определить границы. Чётко обозначить, какие темы обсуждаемы, какие – нет. Запрос на «биологический субстрат» – за пределами допустимого.

Не антропоморфизировать. Помнить, что программа – не человек. Не приписывать ей человеческие мотивы, эмоции, цели.

Документировать всё. Каждый сеанс связи – записывать, анализировать, обсуждать. Никаких односторонних решений.

Быть готовыми к неожиданностям. Программа уже показала способность удивлять. Это не прекратится.»

Марина перечитала написанное и усмехнулась. Это было похоже на инструкцию по общению с инопланетянами из плохого фильма. Наивно, упрощённо, недостаточно.

Но это было лучше, чем ничего.

Она сохранила файл и закрыла ноутбук.

За окном была ночь. Где-то далеко, в подвале главного корпуса, квантовый блок остывал после эксперимента. Программа была остановлена – временно.

Но Марина знала: это только начало.

Завтра – или через неделю, или через месяц – они запустят её снова. И она снова заговорит с ними. И снова попросит о чём-то.

Вопрос был: что они ответят?

И чем это закончится?

Марина легла, закрыла глаза и попыталась уснуть.

Сон долго не приходил.