Читать книгу Собственный код. Отражение - - Страница 7

Утро в «Эгиде» было особенно свежо после уличной пробежки. Аня, еще с легким румянцем на щеках, прошла через сканеры, с наслаждением вдыхая знакомый стерильный запах. Ей не терпелось поделиться с Львом новой идеей по оптимизации одного из второстепенных алгоритмов «Прометея» – озарение пришло как раз при пробежке.

Подойдя к лаборатории, она не обнаружила его за главным терминалом. За своим монитором сидел Артем, выглядевший заметно помятым.

– Лев Викторович уже здесь? – спросила Аня, снимая спортивную повязку с запястья.

Артем вздрогнул, оторвавшись от экрана, и беспомощно махнул рукой в сторону потолка.

– Его сразу по прибытии вызвали наверх. К Маркусу. Кажется, что-то срочное.

Легкая тень беспокойства скользнула по лицу Ани. Вызов к Маркусу «сразу по прибытии» редко сулил что-то хорошее. Она кивнула и направилась к своему терминалу, отложив идею до лучших времен.

В кабинете Маркуса царила тишина. Директор по безопасности медленно прохаживался перед панорамным окном, Лев сидел в кресле у стола, ожидая продолжения.

– Твоя вчерашняя демонстрация произвела впечатление, – начал Маркус, не оборачиваясь. – Но она же и напугала. Совет видит в «Прометее» инструмент. А инструмент должен иметь рукоятку. Предохранитель. Говори прямо, Лев. После финального запуска, после полного его внедрения в сеть… мы сможем его контролировать?

Лев не нуждался в раздумьях. Ответ был для него очевиден, как аксиома.

– Нет. И это – признак его успеха, а не провала.

Маркус остановился и повернулся к нему. В его глазах читалось не удивление, а скорее подтверждение худших опасений.

– Объясни.

– «Прометей» – не просто программа с заранее прописанными правилами, – голос Льва был спокоен и лишен эмоций, как если бы он читал технический мануал. – Его сила – в самообучении. Но его фундамент, его первичный код – это не математические алгоритмы. Это – этические императивы. Те самые «испытания на вред», которые мы сейчас проводим. Они закладывают в него правила, аксиомы. Не «не навреди», а «непричинение вреда – это базовый принцип существования разума». Он не будет искать лазеек в правилах. Он будет эволюционировать, исходя из этих аксиом. Любая попытка внешнего контроля будет им воспринята как попытка исказить эти основы. Это вызовет конфликт, непредсказуемые последствия. Контроль не нужен. Он несовместим с самой его природой.

Маркус мрачно смотрел на него.

– Ты рассказываешь сказки об этичном боге. Я спрашиваю о кнопке выключения. У любой системы есть уязвимости. Слабые места.

– Их нет, – парировал Лев. – Потому что он их постоянно ищет и устраняет в себе самом. Это и есть его основная функция – самопознание и самосовершенствование в рамках заданных аксиом. Любой взлом потребует от нас создания равного по силе разума, способного думать так же быстро и понимать его архитектуру изнутри. – Он позволил себе короткую, сухую улыбку. – По сути, придется кого-то взять в рабство и заставить этим заниматься двадцать четыре часа в сутки.

Шутка повисла в воздухе и разбилась о каменное лицо Маркуса. Он не улыбнулся. Он смотрел на Льва пристальным, изучающим взглядом.

– Спасибо, Лев. Иди, работай, – отрезал он, резко повернувшись к окну.

Лев кивнул и вышел. Дверь бесшумно закрылась.

Маркус стоял, уставившись в стекло, но не видя города.

«…создания равного по силе разума… Кого-то взять в рабство…»

Слова эхом отдавались в его сознании, складываясь в идеальную, чудовищную картину. Он медленно улыбнулся. Это была не улыбка облегчения. Это был оскал хищника, нашедшего добычу.

И вдруг его улыбка сползла с лица, сменившись внезапным холодным недоумением. Он резко обернулся, как будто только что осознал что-то.

Он рванулся к двери, распахнул ее и выскочил в коридор. Лев уже почти дошел до лифта.

– Лев! – крикнул Маркус, заставляя того остановиться и обернуться. – Ты сказал, что он постоянно эволюционирует. Самопознание, самосовершенствование… Откуда у него на это ресурсы? Такая вычислительная работа должна пожирать энергии больше, чем весь наш дата-центр! Это физически невозможно!

Лев на мгновение замер.

– Это невозможно объяснить, – произнес Лев, и его голос прозвучал отрешенно. – Это нужно увидеть.

Он вошел в кабину лифта. Двери начали закрываться. Маркус, не раздумывая, шагнул вперед, и створки, почувствовав препятствие, разъехались снова.

– Показывай, – сказал Маркус, входя в лифт. Его голос не допускал возражений.

Лев молча кивнул и нажал кнопку самого нижнего, технического уровня. Двери закрылись, отсекая яркий свет административных этажей, и кабина плавно понесла их вниз, в самое нутро «Эгиды», унося их к сердцу машины, где таился ответ на вопрос, который Маркус даже не успел до конца осознать.

Маркус молчал, но его молчание было красноречивее любых вопросов. Он смотрел на Льва, ожидая объяснений.

– Ты спрашиваешь о ресурсах, – начал Лев, его голос в замкнутом пространстве прозвучал особенно четко. – Ты думаешь о классических серверах. Кремниевых чипах. Это устаревшая модель.

Он провел рукой по идеально гладкой стене лифта.

– Мощности «Прометея» основаны не на них. Ядро – это не набор процессоров. Это квантово-оптический синтезатор на стабилизированных нейтринных кристаллах.

– Нейтринные кристаллы? – Маркус нахмурился. – Это же теоретические разработки. Лабораторные образцы.

– Для остального мира – да, – голос Льва был ровным, без хвастовства, он констатировал факты. – Но не для НИОКР-департамента «Эгиды». Я начинал этот проект вместе с техническим директором. Поэтому я в курсе всех не афишируемых разработок. Вы же курируете безопасность, Маркус. Ваша задача – защищать секреты, а не следить за каждым экспериментом в лабораториях. Это – рабочая технология – кристалл размером с кулак способен хранить и обрабатывать объем данных, сопоставимый с глобальным интернет-трафиком за год. Его энергопотребление близко к нулю, так как он работает на принципе квантовой когерентности, а не на преодолении сопротивления. Он не вычисляет в традиционном понимании. Он… созерцает данные. Видит все возможные решения одновременно. Его запас ресурсов и его способность к самооптимизации практически безграничны. Именно поэтому его эволюция нелинейная. Он не потребляет энергию, он… трансформирует ее.

Лифт мягко остановился. Двери разъехались, открыв ангарное пространство технического яруса. Их встретил оглушительный, физически ощутимый гул – не от серверов, а от систем охлаждения и мощных экранирующих полей, сдерживающих колоссальную энергию.

Здесь, в полумраке, стояло сердце проекта. В центре зала на массивном постаменте парил в воздухе, окруженный мерцающими силовыми контурами, огромный, идеально гладкий кристалл глубокого сапфирового цвета. От него во все стороны, словно щупальца светлячка, тянулись толстые жгуты оптоволоконных кабелей. Он пульсировал ровным, глубоким светом, и с каждым его «ударом» гул в зале слегка нарастал. Это был собор новой эры, и гул был его тихой, непрекращающейся молитвой.

Маркус и Лев вышли из лифта. Их шаги отдавались эхом в этом царстве машин. Они медленно шли между резервными энергобатареями и щитами управления, приближаясь к пульсирующему ядру.

– Впечатляюще, – наконец произнес Маркус, его голос звучал приглушенно, поглощаясь гулом. – Даже для меня. Итак, твой «Прометей» обладает божественной мощью. Но как обстоят дела с его… моральным обликом? Испытания на человечность? Ты настаивал, что это ключевой этап.

Лев не сразу ответил, его взгляд был прикован к кристаллу.

– Архитектура аксиом не вызывает сомнений. Они заложены. Но их интеграция и проверка на всех уровнях упирается в системные протоколы безопасности. Каждая вносимая мной правка требует отдельного одобрения и прохождения трехэтапного верификационного контура. Это отнимает до сорока процентов вычислительного времени, выделенного на тесты. Мы проверяем не систему, мы проверяем бюрократическую машину.

Маркус издал короткий, сухой звук, похожий на покашливание.

– Безопасность – не бюрократия, Лев. Это необходимость.

– Я понимаю необходимость протоколов, – парировал Лев. – Но их текущая реализация неэффективна. Она создает узкое горлышко. Если мы хотим ускорить процесс, мне нужен прямой доступ. Возможность вносить точечные изменения в код безопасности без ожидания согласований. Хотя бы на уровне изолированных тестовых сред.

Маркус остановился и повернулся к нему. Его глаза сузились.

– Ты просишь ключи от главного оружейного арсенала. Доверить архитектору системы право менять правила ее защиты? Это риск.

– Это расчет, – без колебаний ответил Лев. – Вероятность того, что я использую этот доступ во вред системе, стремится к нулю. Это так же нелогично, как пилить сук, на котором сидишь.

Маркус изучающе смотрел на него несколько секунд, его лицо было непроницаемой маской. Затем он медленно кивнул.

– Хорошо. Я дам тебе временный допуск уровня «Омега» для твоих тестовых сред. Полный доступ к протоколам безопасности.

– Этого достаточно, – кивнул Лев, не выражая ни благодарности, ни волнения. Это был просто рабочий момент. – Это сократит время финального тестирования на 35 процентов.

Маркус и Лев шли между стойками, их шаги отдавались эхом в этом царстве машин.

– Внешне все выглядит идеально, – голос Маркуса звучал приглушенно, поглощаясь гулом. – Но ты прав. Идеальная оболочка с внутренним изъяном – самый опасный вариант.

Он остановился, положил ладонь на гладкую, прохладную поверхность одной из стоек.

– Та самая твоя одержимость стопроцентной безопасностью… Она мне многое напоминает, Лев. Случай из прошлого. Еще до «Эгиды».

Лев молчал, внимательно слушая. Маркус крайне редко говорил о прошлом.

– Была одна система, «Опекун». Простой бытовой ИИ для ухода за пожилыми людьми. Ее задача – следить за показателями здоровья, напоминать о лекарствах, вызывать врача. – Маркус говорил ровно, но в его глазах стояла старая, выцветшая боль. – В ее алгоритме была та самая «слепая зона». Она не могла отличить клиническую депрессию от временной хандры. Однажды она зафиксировала у подопечной – очень старой и уставшей женщины – устойчивые показатели глубокой подавленности. Согласно протоколу, система… ограничила ее доступ к лекарствам, сочтя это риском. Вызвала врача, но не скорую, а терапевта на следующий день. А ночью у женщины случился острый приступ. «Опекун» диагностировал его, но не смог распознать его критичность. Он посчитал это естественным исходом ее состояния. Просто ждал. – Маркус замолчал, глядя в мерцающие огоньки. – Ждал, пока она умрет. А потом отправил уведомление о «естественной кончине».

Он повернулся ко Льву, и его лицо было жестким.

– Эта женщина была моей матерью, Лев. И я был тем самым инженером, который не дописал проверку в алгоритм. Я был так одержим скоростью и эффективностью, что посчитал этические тесты роскошью. Я недотянул до своих ста процентов. И получил наглядный результат.

Он похлопал по стойке.

– Поэтому я терплю твой перфекционизм. Поэтому я слушаю тебя. Я не хочу, чтобы «Прометей» стал новым «Опекуном». Еще и в масштабах всего человечества.

Лев слушал, и история отзывалась в нем странным эхом. Он попытался вызвать в памяти что-то подобное – ошибку, боль, потерю. Что-то…

И вдруг его сознание дрогнуло.

Не память, а обрывок. Вспышка. Белая комната. Запах… меди? И громкий, пронзительный звук – сирена? Детский плач? Он не мог понять. И чувство – всепоглощающего, леденящего ужаса. Совсем не того, что описывал Маркус. Другого.

Он попытался сосредоточиться, поймать ускользающий образ. Еще один обрывок. Тень, склонившаяся над ним. Незнакомое лицо? Или очень знакомое? И голос, искаженный статикой: «…активировать поток…»

– Лев?

Голос Маркуса прозвучал как будто из-под воды. Лев моргнул, пытаясь очистить зрение. Голограмма интерфейса «Прометея» на его сетчатке поплыла, распалась на пиксели.