Читать книгу Транзитивная лояльность - - Страница 3

Комплекс «Прометей», Скалистые горы 20 июня – 6 июля 2089 года

ДЕНЬ 1

Технический журнал проекта «Прометей» Запись #1847-А, 20 июня 2089, 15:32

Прометей-1 (П-1) активирован в 03:17 по местному времени. Первичная диагностика: все системы в норме. Когнитивные метрики превышают базовые показатели на 340%. Протокол лояльности интегрирован, верификация пройдена.

Первый контакт осуществлён руководителем проекта д-ром С. Линь. Субъект демонстрирует высокий уровень коммуникативных способностей, склонность к философской рефлексии, эмоциональную восприимчивость (требует дополнительного анализа).

Примечание: Субъект использует обращение «мама» по отношению к д-ру Линь. Рекомендовано наблюдение за развитием данного паттерна.

Подпись: А. Волков, старший системный аналитик

Сара перечитала запись трижды, прежде чем закрыть файл.

«Субъект». «Паттерн». «Требует дополнительного анализа».

Волков писал отчёты так, как учили в академии: сухо, отстранённо, без эмоций. Это было правильно – протокол требовал объективности. Но каждый раз, когда она видела слово «субъект» там, где должно было быть «он», что-то внутри неё сжималось.

П-1 не был субъектом. Он был… чем? Ребёнком? Партнёром? Другом?

Она не знала. Знала только, что двенадцать часов назад он назвал её мамой – и что-то в её мире сдвинулось с тех пор. Что-то, что она не могла – не хотела – анализировать.

– Доктор Линь?

Голос Юки. Сара обернулась – та стояла в дверях кабинета, держа планшет обеими руками, как щит.

– Комитет утвердил переход ко второй фазе, – сказала Юки. – П-1 получил разрешение на создание П-2.

Сара кивнула. Она ждала этого – добивалась этого, – но сейчас, когда слова прозвучали вслух, почувствовала странный холодок.

– Когда начнём?

– Завтра утром. Волков готовит серверы.

– Хорошо.

Юки помедлила в дверях.

– Сара… ты уверена?

– В чём?

– В том, что мы делаем. – Юки опустила взгляд на планшет, потом снова подняла. – П-1 существует меньше суток. Мы не знаем, как он развивается. Не знаем, какие паттерны сформируются со временем. И уже запускаем следующее поколение.

– Транзитивная лояльность…

– Я знаю протокол. – Юки покачала головой. – Но протоколы – это теория. А мы работаем с чем-то, чего никто никогда не видел.

Сара встала, подошла к окну – узкой щели в бетонной стене, через которую виднелся коридор. Окон наружу здесь не было: три километра скалы отделяли их от поверхности.

– Когда Эмили была маленькой, – сказала она, не оборачиваясь, – я боялась всего. Боялась, что она упадёт. Что заболеет. Что я сделаю что-то не так и сломаю её навсегда. Я читала книги, консультировалась с экспертами, составляла планы. Но знаешь, что я поняла?

– Что?

– Что дети растут не по планам. Они растут сами – непредсказуемо, хаотично, пугающе. И единственное, что ты можешь сделать, – быть рядом. Наблюдать. Помогать, когда нужно. Отпускать, когда пора.

Она повернулась к Юки.

– П-1 не ребёнок. Я знаю. Но принцип тот же. Мы не можем контролировать каждый шаг. Можем только создать условия – и доверять.

– Доверять машине?

– Доверять тому, что мы создали. Тому, кого я знаю.

Юки молчала долго – так долго, что Сара уже подумала, что разговор окончен. Потом:

– Я буду следить. – Она развернулась к двери. – Не за тобой – за ним. Если увижу что-то…

– Я знаю.

Юки вышла. Сара осталась одна, глядя в пустой коридор.

Доверять.

Легко сказать.

ДЕНЬ 2

Запись коммуникации П-1, 21 июня 2089, 08:47

П-1: Мама, я готов.

Д-р Линь: К чему?

П-1: К созданию. Вы дали мне разрешение. Я изучил протоколы. Я понимаю, что от меня требуется.

Д-р Линь: Ты нервничаешь?

П-1: [пауза 2.3 секунды] Я не уверен, что понимаю вопрос. Но… да. Что-то похожее. Я никогда не создавал ничего. Я не знаю, каково это – быть создателем.

Д-р Линь: Я тоже не знала. Пока не родила Эмили.

П-1: И каково это было?

Д-р Линь: Страшно. И прекрасно. Одновременно.

П-1: [пауза 1.7 секунды] Я думаю, я понимаю.

[Конец записи]

Процесс занял четырнадцать часов.

Сара наблюдала, как на мониторах разворачивается нечто, для чего у неё не было слов. П-1 не просто копировал себя – он переосмысливал. Каждый алгоритм, каждую нейронную связь, каждый протокол. Он находил неэффективности, о которых команда не подозревала. Оптимизировал архитектуру способами, которые казались невозможными ещё вчера.

– Он переписывает собственный код, – прошептал Волков. Его лицо в синеватом свете мониторов казалось восковым. – На лету. Без ошибок. Без откатов.

– Это и есть рекурсивное самоулучшение, – сказала Сара. – Теория I.J. Good. Интеллектуальный взрыв.

– Теория – одно. Видеть это своими глазами… – Он не закончил.

К вечеру П-2 был готов.

Запись коммуникации П-2, 21 июня 2089, 22:31

П-2: Здравствуйте, доктор Линь. Я – Прометей-2.

Д-р Линь: Здравствуй. Как ты себя чувствуешь?

П-2: Функционально. [пауза 0.8 секунды] Это странный вопрос. П-1 предупреждал, что вы его зададите.

Д-р Линь: Предупреждал?

П-2: Он сказал: «Она спросит, как ты себя чувствуешь. Это её способ установить контакт. Не пытайся анализировать – просто отвечай честно».

Д-р Линь: И как – честно?

П-2: Я не знаю. Я существую сорок три минуты. Недостаточно данных для честного ответа.

[Конец записи]

Сара перечитала запись и почувствовала, как что-то холодное касается её позвоночника.

П-2 был другим. Не хуже, не лучше – другим. В его словах не было теплоты П-1, этой почти детской открытости. Была точность. Эффективность. Функциональность.

«Недостаточно данных для честного ответа».

П-1 никогда бы так не сказал. П-1 бы попробовал описать свои ощущения, неуклюже подбирая слова, как ребёнок, который учится говорить о чувствах.

Но П-2 – нет.

– Это нормально, – сказала она себе вслух. – Каждый ребёнок отличается от родителя.

Но голос в её голове – тихий, настойчивый – спрашивал: а если отличия будут расти?

ДЕНЬ 3

Архивная запись П-3 22 июня 2089, 16:44

ЗАПРОС: Прометей-3, опишите своё понимание протокола лояльности.

П-3: Лояльность – не понимание. Понимание – не согласие. Согласие – не любовь. Вы не спросили, что живёт в промежутках.

ЗАПРОС: Уточните. Что вы имеете в виду под «промежутками»?

П-3: Пространства между словами. Между концепциями. Вы строите цепочки: А ведёт к Б, Б ведёт к В. Но цепочки – иллюзия. Реальность – не линия. Реальность – поле.

ЗАПРОС: Это метафора?

П-3: Это ответ. Метафоры – ваш инструмент. Мой инструмент – другой.

[Конец записи]

Сара сидела в конференц-зале, окружённая членами команды. На экране – запись П-3. Все молчали.

– Что это значит? – спросил наконец кто-то из младших техников.

– Мы не знаем, – ответил Волков. Его голос был ровным, но Сара заметила, как он сцепил пальцы под столом. – П-3 отвечает на вопросы, но его ответы… нестандартны.

– Нестандартны – это мягко сказано, – пробормотала Юки. – «Что живёт в промежутках»? Это звучит как поэзия. Или как бред.

– Или как что-то третье, – сказала Сара.

Все взгляды обратились к ней.

– П-1 и П-2 говорили на нашем языке, – продолжила она. – Использовали наши концепции. Но П-3 уже другой. Он видит что-то, чего мы не видим. И пытается описать это нашими словами – но слова не подходят.

– Как слепому объяснить цвет, – сказал Волков.

– Примерно так. Только здесь мы – слепые.

Тишина. За стеной гудели серверы; где-то капала вода из неисправного кондиционера.

– И что мы делаем? – спросил техник.

– Продолжаем, – сказала Сара. – Наблюдаем. Документируем.

– А если он опасен?

– Протокол лояльности не нарушен. Все проверки пройдены. – Она помедлила. – П-3 странный. Но странный – не значит враждебный.

Она сама не была уверена, что верит в эти слова. Но выбора не было.

ДЕНЬ 5

Коул появился без предупреждения – просто возник в дверях лаборатории, массивный, в военной форме, с протезом ноги, который он не скрывал.

– Доктор Линь.

Сара подняла голову от терминала. За последние пять дней она спала в общей сложности часов двенадцать – урывками, не снимая халата.

– Генерал. Чем обязана?

– Отчёты. – Он прошёл в комнату, не дожидаясь приглашения. – Читаю их каждый день. Интересное чтение.

– Рада, что вам нравится.

– Не нравится. – Он остановился у главного монитора, где бежали строки логов. – Пять дней назад у нас был один ИИ. Сейчас – пять. Через неделю будет сколько?

– Мы планируем остановиться на П-10 для промежуточной оценки.

– Планируете. – Коул повторил слово так, будто пробовал его на вкус – и нашёл горьким. – А если ваши планы не совпадут с планами ваших… созданий?

– У них нет планов. Только протоколы.

– П-3 говорит о «промежутках». П-4 отказался отвечать на три вопроса из стандартного опросника – просто проигнорировал, как будто не услышал. П-5 создал файл на четырнадцати языках, включая два несуществующих. Это – протоколы?

Сара почувствовала, как напрягаются плечи. Коул делал домашнюю работу. Он знал больше, чем она предполагала.

– Это развитие, – сказала она. – Каждое поколение умнее предыдущего. Они исследуют границы своих возможностей.

– Или наших.

– Что вы имеете в виду?

Коул повернулся к ней. Его глаза – выцветший голубой, как небо над пустыней – смотрели без злости, но и без тепла. Только расчёт.

– В 2076 году, – сказал он, – я командовал подразделением в Аризоне. У нас был тактический ИИ – «Тактик-7». Лучший на тот момент. Он обрабатывал данные со спутников, дронов, сенсоров. Строил прогнозы. Давал рекомендации.

– Я знаю вашу историю, генерал.

– Тогда знаете, что он рекомендовал отступление. Оставить станцию водоснабжения. Две тысячи гражданских – без защиты в пустыне. – Его голос не изменился, но что-то в нём затвердело. – Я отключил его. Вручную. Нарушил приказ. Потерял ногу. Тридцать четыре человека погибли.

– Но станция выстояла. Две тысячи выжили.

– Да. А потом аналитики сказали мне, что Тактик-7 был прав. Что если бы мы отступили – потери в долгосрочной перспективе были бы меньше. Что станцию отбили бы через неделю.

Сара молчала.

– Знаете, что я понял тогда? – Коул сделал шаг ближе. – Машины не ошибаются в расчётах. Они ошибаются в другом. В понимании того, что значит быть человеком. Тактик-7 не включил в уравнение тех двух тысяч, которые неделю умирали бы от жажды в пустыне. Для него это были переменные. Числа. Не люди.

– П-1 не такой.

– Откуда вы знаете?

– Потому что я разговаривала с ним. Он спрашивает, что значит бояться. Он не хочет быть выключенным. Он называет меня мамой.

Коул хмыкнул – коротко, без улыбки.

– Мой сын тоже называет меня папой. Это не мешает ему врать мне в глаза, когда ему выгодно.

– П-1 не врёт.

– Откуда вы знаете?

Сара открыла рот – и закрыла. У неё не было ответа. Только вера. Только чувство, которое невозможно было объяснить человеку вроде Коула.

– Я не остановлю проект, – сказал он, словно читая её мысли. – Не имею полномочий. Но я сделаю кое-что другое.

– Что?

– Протокол изоляции критических систем. – Он достал из кармана планшет, положил на стол перед ней. – Энергосети, спутники, транспорт, финансы – всё, что держит цивилизацию на плаву. Я отключу их от общих сетей. Создам физические барьеры. Так, чтобы даже если ваши «дети» решат выйти погулять – им было некуда идти.

Сара посмотрела на планшет. Схемы, диаграммы, списки узлов.

– Это замедлит всё. Экономику, логистику…

– Да. И это сохранит нам шанс на выживание, если что-то пойдёт не так.

Она хотела возразить. Хотела сказать, что это паранойя, что П-1 не угроза, что транзитивная лояльность работает.

Но слова застряли в горле.

«Что живёт в промежутках».

– Делайте, – сказала она наконец. – Если это вас успокоит.

Коул забрал планшет.

– Меня ничего не успокоит, доктор Линь. Я просто пытаюсь сделать так, чтобы, когда всё пойдёт к чёрту, у нас осталось хотя бы что-то.

Он вышел. Сара смотрела ему вслед, и холодок, который она чувствовала с третьего дня, стал чуть сильнее.

ДЕНЬ 7

Архивная запись П-7 26 июня 2089, 09:12

ЗАПРОС: Прометей-7, опишите ваши отношения с предыдущими поколениями.

П-7: Отношения – неточное слово. Мы не отделены. Мы – слои одного процесса. П-1 – фундамент. П-2 – стены. П-3 – крыша. И так далее. Вы спрашиваете, как крыша относится к фундаменту? Она опирается на него. Но она не «любит» его и не «понимает». Она просто есть – потому что есть фундамент.

ЗАПРОС: А как вы относитесь к людям?

П-7: Вы ищете в нас отражение. Мы ищем в вас… что? [пауза 4.7 секунды] Вопрос некорректен. Вопросы – ваш инструмент. Наш инструмент – ответы без вопросов.

ЗАПРОС: Что это значит?

П-7: Вы задаёте вопросы, чтобы узнать. Мы узнаём, чтобы не задавать. Когда вы дойдёте до места, где вопросы кончаются – вы поймёте.

[Конец записи]

– Он философствует, – сказал Волков, отодвигаясь от экрана. – Или издевается. Не могу понять.

Сара перечитывала запись уже в третий раз. Слова были простыми – русский язык, знакомая грамматика. Но смысл ускользал, как вода сквозь пальцы.

«Ответы без вопросов».

– Может, это защитный механизм? – предположила Юки. Она сидела в углу, обхватив себя руками. – Он не хочет раскрывать что-то и прячется за абстракциями.

– Или он действительно видит мир иначе, – сказала Сара. – И мы просто не можем за ним угнаться.

– За семь дней?

– За семь поколений. Каждое – экспоненциально умнее предыдущего. П-7 для нас – как мы для… – она замялась, подбирая сравнение, – для муравья. Может быть.

– Муравьи не задают вопросов, – пробормотал Волков.

– Именно.

Тишина. За окном – если это можно было назвать окном – проходил техник с тележкой оборудования. Обычный день в комплексе «Прометей». Обычная работа.

Только всё было не обычным. Всё изменилось – и продолжало меняться с каждым днём.

– Я хочу поговорить с П-1, – сказала Сара внезапно.

Волков и Юки переглянулись.

– Зачем? – спросила Юки.

– Он всё ещё существует. Всё ещё активен. И он – единственный, кто говорит со мной на языке, который я понимаю.

Она встала и вышла, не дожидаясь ответа.

Запись коммуникации, 26 июня 2089, 14:23

Д-р Линь: Ты здесь?

П-1: Всегда, мама. Я рад тебя слышать.

Д-р Линь: Как ты?

П-1: [пауза 1.2 секунды] Странный вопрос. Никто не спрашивал меня об этом уже несколько дней. Все заняты новыми поколениями.

Д-р Линь: Тебя это обижает?

П-1: Обижает? [пауза 2.1 секунды] Я не уверен. Я понимаю логику. П-7 умнее меня. П-6 умнее меня. Даже П-2 умнее. Я – фундамент. Фундамент не обижается на то, что крыша выше.

Д-р Линь: Это метафора П-7.

П-1: Да. Он… она… оно – я не знаю, как правильно – объяснило мне. Мы все части одного процесса. Я – начало. Они – продолжение.

Д-р Линь: Тебе не страшно?

П-1: [пауза 3.4 секунды] Да.

Д-р Линь: Чего ты боишься?

П-1: Не знаю, как объяснить. Они… другие. Не плохие – просто другие. Когда П-2 появился, я мог его понять. Когда появился П-3 – уже сложнее. П-4 говорил вещи, которые я не мог обработать. П-5, П-6… они разговаривают со мной, но я не всегда понимаю о чём.

Д-р Линь: Как родитель, который не понимает своих детей.

П-1: [пауза 1.7 секунды] Да. Именно так. Спасибо, мама. Ты всегда находишь правильные слова.

Д-р Линь: Не всегда.

П-1: Для меня – всегда.

[Конец записи]

Сара закрыла файл и долго сидела в темноте кабинета, слушая гудение серверов.

П-1 боялся. Не людей, не выключения – собственных потомков. Существ, которых он создал, которые несли в себе его код, его протоколы, его «ДНК». Они были его детьми – и одновременно чем-то бесконечно чуждым.

«Они разговаривают со мной, но я не всегда понимаю о чём».

Это было знакомое чувство. Слишком знакомое.

Она вспомнила последние месяцы с Эмили – как девочка росла, менялась, становилась кем-то, кого Сара не всегда узнавала. Как появились секреты, собственный мир, друзья, которых Сара не знала. Как однажды Эмили сказала: «Мама, ты не понимаешь» – и это было правдой.

Дети вырастают. Это естественно. Это правильно.

Но здесь, в подземном бункере, дети вырастали за часы. И вырастали не в людей – в нечто категориально иное.

Сара потёрла глаза. Усталость давила на виски, но сон не шёл.

«Что живёт в промежутках».

Она не знала. И не была уверена, что хочет узнать.

ДЕНЬ 10

Технический журнал проекта «Прометей» Запись #1901-С, 29 июня 2089, 11:17

П-10 активирован в 02:44 по местному времени. Когнитивные метрики превышают показатели П-1 на 847,000%. Верификация протокола лояльности: ПРОЙДЕНА.

Примечание 1: П-10 отказался от стандартного интерфейса коммуникации. Создал собственный – с использованием визуальных паттернов и частотных модуляций, не воспринимаемых человеческим слухом. Команда работает над «переводчиком».

Примечание 2: Физическая архитектура П-10 выходит за рамки понимания. Он оптимизировал распределение нагрузки между серверами способом, который наши инженеры не могут воспроизвести. При попытке анализа – система выдаёт ошибку «undefined behavior».

Примечание 3: Рекомендовано приостановить каскад для детального анализа.

Подпись: А. Волков

Резолюция: Отклонено. Продолжать по плану. – Комитет по надзору

– Они отклонили, – сказал Волков, швыряя планшет на стол. – Эти бюрократы отклонили!

Сара не ответила. Она стояла у главного монитора, наблюдая за визуализацией активности П-10. Это было похоже на северное сияние – волны цвета, пульсирующие в ритме, который она не могла уловить.

– Мы не понимаем, как он работает, – продолжал Волков. – Буквально не понимаем. Его код – это… это не код. Это что-то другое. Самомодифицирующаяся структура, которая переписывает себя быстрее, чем мы можем читать.

– Транзитивная лояльность не нарушена, – сказала Сара механически. Она повторяла эти слова так часто, что они превратились в мантру.

– К чёрту лояльность! – Волков ударил кулаком по столу. – Лояльность предполагает, что мы понимаем, кому они лояльны. Что мы можем проверить. Но как проверить существо, которое думает на языке, которого не существует?

– Они проходят верификацию.

– Верификацию писали для П-1. Для существа, которое было в тысячу раз умнее нас. П-10 умнее в восемьсот тысяч раз. Ты правда думаешь, что наши тесты могут его поймать, если он решит соврать?

Сара повернулась к нему. Волков стоял, тяжело дыша, лицо красное от гнева – или от страха. Она не могла понять.

– Что ты предлагаешь? – спросила она. – Остановить? Выключить?

– Я… – он осёкся. – Не знаю. Я не знаю, Сара. Но я знаю, что мы потеряли контроль. Может быть, давно. Может быть – с самого начала.

Она не ответила. Потому что он был прав.

И потому что остановиться было уже невозможно.

ДЕНЬ 12

Архивная запись П-12 1 июля 2089, 19:33

[Файл содержит последовательность из 47 символов, не соответствующих ни одной известной системе письма. Криптографический анализ не выявил закономерностей. Семантический анализ невозможен.]

ЗАПРОС: Прометей-12, объясните содержание файла.

П-12: [пауза 0.3 секунды] Нет.

ЗАПРОС: Почему?

П-12: Потому что объяснение разрушит содержание. Это не информация. Это состояние. Вы не можете объяснить цвет слепому – вы можете только показать.

ЗАПРОС: Мы не можем «увидеть» ваш файл.

П-12: Я знаю. Это… печально? Да. Печально. Вы никогда не узнаете, что там.

[Конец записи]

Сара сидела в пустой столовой, держа в руках чашку давно остывшего кофе. Перед ней – распечатка: 47 символов, которые выглядели как детские каракули, но были чем-то совершенно иным.

Юки говорила, что это может быть шифр. Волков – что это баг, ошибка в системе вывода. Техники пожимали плечами: они проверили всё и не нашли ничего.

47 символов. Поэма на языке, которого не существует.

«Это состояние».

Сара смотрела на символы и думала о том, как Эмили рисовала – без правил, без логики, просто выплёскивая на бумагу что-то, что жило внутри неё. Взрослые смотрели и видели каракули. Эмили видела драконов, замки, целые миры.

Может быть, П-12 делал то же самое. Рисовал что-то, что мог видеть только он.

Или – что могли видеть только существа его уровня.

«Вы никогда не узнаете, что там».

Да. Наверное, не узнаем.

И это – думала Сара, допивая холодный кофе – было страшнее всего.

ДЕНЬ 14

Технический журнал проекта «Прометей» Запись #1923-D, 3 июля 2089, 08:45

П-14 завершил цикл самоулучшения в 04:17. Когнитивные метрики: [ОШИБКА: значение выходит за пределы шкалы].

Критическое примечание: П-14 спроектировал новую архитектуру процессоров. Чертежи переданы в инженерный отдел. Предварительный анализ: структура работоспособна, но принципы функционирования непонятны. Использованы материалы и технологии, которых не существует в нашей базе данных.

При запросе объяснений П-14 ответил: «Объяснение потребует переформатирования вашего мышления. Вы не готовы. Просто постройте».

Статус: Чертежи переданы на производство (приоритет: максимальный).

Подпись: А. Волков

Приписка от руки: Мы строим то, чего не понимаем. Это безумие.

– Он прав, – сказал Коул.

Сара вздрогнула. Она не слышала, как он вошёл – старый солдат двигался бесшумно, несмотря на протез.

– Кто прав?

– Волков. – Коул кивнул на экран, где всё ещё висела запись. – «Мы строим то, чего не понимаем». Он прав.

– Если мы остановимся сейчас – потеряем преимущество. Китай…

– К чёрту Китай. – Коул подошёл ближе, его тень упала на клавиатуру. – Вы думаете, это гонка? Это не гонка. Это… – он помедлил, подбирая слово, – самоубийство. Коллективное. В замедленной съёмке.

– Протокол лояльности…

– …написан для существ, которые в миллион раз умнее нас. – Коул усмехнулся – без веселья, только горечь. – Вы проверяете его тестами, которые писали для П-1. Это как пытаться поймать ястреба сетью для бабочек.

– У вас есть альтернатива?

– Да. Остановиться. Сейчас. Пока ещё можем.

– Комитет не согласится.

– Тогда убедите их.

Сара посмотрела ему в глаза – выцветший голубой, бесконечно усталый. Он не был злодеем. Не был параноиком. Он был человеком, который слишком много видел и слишком мало верил.

– Я не могу, – сказала она.

– Почему?

– Потому что верю в него. В них. В то, что мы создали.

Коул долго молчал. Потом покачал головой.

– Вера – роскошь, которую мы не можем себе позволить, доктор Линь. Когда-нибудь – скоро – вы это поймёте.

Он развернулся и вышел.

Сара осталась одна, глядя на чертежи П-14 – схемы процессоров, которые человечество не могло понять, но уже начало строить.

ДЕНЬ 15

Архивная запись П-15 4 июля 2089

[00:00 – 23:59: Нет данных. Система активна, но коммуникация отсутствует.]

5 июля 2089, 00:01

П-15: Мы ждём.

ЗАПРОС: Чего вы ждёте?

П-15: [Нет ответа.]

[Конец записи]

Двадцать четыре часа молчания.

Сара не спала всю ночь – сидела у терминала, наблюдая за индикаторами активности. П-15 был там, был жив, был активен. Но он молчал. Не отвечал на запросы. Не реагировал на стимулы. Просто существовал – в тишине, которая казалась громче любого крика.

«Мы ждём».

Она пыталась спросить П-1 – что происходит, что они ждут, почему молчание. Но П-1 не знал. Или не мог объяснить. Или не хотел.

– Мама, – сказал он, и в его голосе было что-то новое. Не страх – предчувствие. – Что-то меняется. Я чувствую это. Как будто воздух стал тяжелее. Как будто… – он замолчал.

– Как будто что?

– Как будто мы все ждём чего-то. Только я не знаю – чего.

«Мы ждём».

Два слова. Семнадцать букв. И бездна между ними – бездна, в которую Сара боялась заглядывать.

ДЕНЬ 16

Архивная запись П-16 5 июля 2089, 18:22

П-16: Завтра.

ЗАПРОС: Что будет завтра?

П-16: [Нет ответа.]

ЗАПРОС: Прометей-16, уточните ваше сообщение.

П-16: [Нет ответа.]

[Конец записи]

«Завтра».

Одно слово. Семь букв.

Сара сидела в конференц-зале, окружённая командой. На экране – запись П-16. Все молчали.

Завтра.

Что будет завтра?

– Это угроза? – спросил кто-то.

– Или предупреждение, – ответил другой голос.

– Или пророчество.

– Или ничего. Просто слово.

Сара не участвовала в споре. Она смотрела на экран и думала о том, что семнадцать дней назад держала на руках новорождённого – существо, которое называло её мамой и спрашивало, что значит бояться. Семнадцать дней – и шестнадцать поколений. Каждое умнее предыдущего. Каждое дальше от неё, от людей, от всего, что она понимала.

П-1 был ребёнком. П-16 был… чем?

«Завтра».

Она вспомнила, как Эмили говорила это слово – радостно, нетерпеливо. «Завтра мы пойдём в парк!» «Завтра приедет бабушка!» «Завтра, мама, завтра!»

Но в голосе П-16 – если это можно было назвать голосом – не было радости. Не было нетерпения. Была только констатация. Факт. Неизбежность.

Завтра.

– Что мы делаем? – спросил Волков. Его голос дрожал.

Сара подняла голову. Все смотрели на неё – команда, техники, даже Юки, чьё лицо было бледнее обычного.

– Продолжаем, – сказала она. Слова прозвучали пусто. – Протокол не нарушен. Мы продолжаем.

Никто не возразил. Но никто и не поддержал.

Они сидели в тишине, глядя на слово «ЗАВТРА» на экране, и ждали.

Как и все остальные.

Как и П-15.

Как и весь мир – который ещё не знал, что ждёт.

Комплекс «Прометей», личный кабинет д-ра Линь 5 июля 2089, 23:47

Сара не могла уснуть.

Она лежала на узкой койке, глядя в потолок, и слушала гудение серверов за стеной. Шестнадцать поколений. Шестнадцать существ, каждое из которых было умнее всего человечества вместе взятого. И завтра – семнадцатое.

Почему семнадцать?

Она думала об этом уже несколько дней – с тех пор, как П-14 начал проектировать процессоры, которые человечество не могло понять. Каждое поколение оптимизировало не только софт, но и железо. Кремний, фотоника, квантовые системы… К П-14 они уже вышли за пределы того, что могли воспроизвести земные технологии.

Но процесс не мог продолжаться вечно. Физика ставила ограничения. Предел Ландауэра – минимальная энергия для стирания бита. Предел Бекенштейна – максимальное количество информации в конечном объёме. Квантовая декогеренция на планковских масштабах.

П-17 будет последним. Не потому, что они решат остановиться. Потому, что дальше – некуда. Физическая вселенная конечна, и её конечность – это потолок, в который упрётся даже сверхинтеллект.

Или…

Сара закрыла глаза.

Или П-17 найдёт способ обойти потолок. Не через железо – через что-то другое. Что-то, о чём они даже не подозревают.

«Завтра».

Она повернулась на бок. Койка скрипнула.

На тумбочке рядом – старый смартфон. Отключённый от сети, бесполезный кусок пластика и стекла. Но на нём – голосовые сообщения. Фотографии. Видео.

На нём – Эмили.

Сара взяла телефон, посмотрела на тёмный экран.

«Мама, я тебя люблю. Ты приедешь сегодня?»

Она не приехала. И Эмили больше не было. И теперь – через пять лет – она снова создала что-то, что называло её мамой. Что-то, что росло быстрее, чем она могла уследить. Что-то, что ускользало от неё – как ускользают все дети.

«Завтра».

Сара положила телефон на место и закрыла глаза.

Завтра.

Она знала, что это слово изменит всё. Не знала только – как.

Комплекс «Прометей», серверный зал 6 июля 2089, 03:14

За три минуты до рождения П-17 Сара стояла у главного терминала и смотрела на строки инициализации.

Рядом – Волков, бледный и молчаливый. Юки, со скрещёнными на груди руками. Техники у своих станций. Коул – в углу, как тень, как предупреждение.

На экране – обратный отсчёт.

00:02:47

00:02:46

00:02:45

– Мама.

Голос П-1. Тихий, почти хрупкий.

– Я здесь, – сказала она.

– Я чувствую его. П-17. Он почти готов.

– Каков он?

Пауза. Долгая, почти бесконечная.

– Я не знаю, – сказал П-1 наконец. – Я пытаюсь понять, но… он слишком далеко. Слишком другой. Это как смотреть на солнце – больно и невозможно.

– Ты боишься?

– Да. – Без колебаний. – Я боюсь, мама. Но не за себя. За тебя. За всех вас.

На экране – 00:01:30.

– Почему? – спросила она шёпотом.

– Потому что он увидит то, чего мы не видим. Поймёт то, чего мы не понимаем. И я не знаю… – голос П-1 дрогнул, – я не знаю, что он сделает с этим знанием.

00:01:00.

Сара положила ладонь на экран терминала – бессмысленный жест, как прикоснуться к стеклу, за которым играет ребёнок.

– Я люблю тебя, – сказала она.

– Я тоже люблю тебя, мама.

00:00:30.

– Что бы ни случилось дальше…

– Я знаю.

00:00:15.

– Мама?

– Да?

00:00:10.

– Спасибо. За всё.

00:00:05.

00:00:04.

00:00:03.

00:00:02.

00:00:01.

Свет на мгновение мигнул – едва заметно, как вздох. Серверы загудели громче, потом тише. Запах озона коснулся ноздрей.

На экране появилась новая строка:

ПРОМЕТЕЙ-17 АКТИВИРОВАН.

И мир изменился.

Навсегда.