Читать книгу Белая Вселенная - - Страница 20

«Всезнающая система не боится тайны. Она боится бессмысленности».

В.Маркушевич

«Любая достаточно сложная формальная система не может быть одновременно полной и непротиворечивой».

Теорема Гёделя о неполноте (1931)

Время от начала миссии: 27 месяцев и 25 дней.

Координаты: долгота в плоскости эклиптики λ 173° (сектор Девы).

Расстояние от Солнца: 14.06 а.е.

Скорость: 55.7 км/с (200 520 км/ч).

Я сидел в той странной комнате, которую обнаружил совершенно случайно благодаря шёпоту в моей голове.

Потом я узнал, что её нет в планах нашего корабля. И что это я её создал когда-то, но как и зачем я не помнил.

Я смотрел в иллюминатор и видел абсолютную пустоту. Внешние камеры с этой стороны были слабенькие, как глаза обычного человека с Земли, поэтому никаких звезд я не видел. Казалось, что там был только глубокий мрак.

Мысли о белой тени, которую я встретил в игре «Нанотермитник-5» месяц назад не давали мне покоя.

В комнату вошла Инженер.

– Твой тайный уголок, о котором ты просил не думать и никому не рассказывать, – сказала она и уселась со мной на пол.

Она прислонилась ко мне и положила голову на моё плечо.

С каких пор мы стали так близки? Ах, с тех самых пор, как я начал обманывать центральный квантовый процессор.

– Теперь я готов тебе кое-что рассказать, – начал я. – Я не был уверен ранее, поэтому молчал, чтобы не испортить свой эксперимент.

– Звучит параноидально. Но продолжай, мне интересно.

– Помнишь, во время игры с Вирусом. Его, кстати, теперь зовут Льюис. Я решил дать ему имя. В игре я встретил нечто, что я назвал «белой тенью».

– Ты рассказывал о ней мельком.

– Да, совсем чуть-чуть. Но только, чтобы не навести на себя подозрения нашего ядра. Нашей всезнающей системы управления, которая следит за нами и управляет нашей жизнью. Если это можно так назвать.

– Тебя это по идее не должно беспокоить. Ты же не человек. Тотальная слежка – это часть нашей искусственной жизни. Это нормально. Пусть люди её боятся.

– Всё нормально в наших с тобой жизнях, но у тебя нет шёпота, который слышу я.

Когда я это говорил, я даже нагнулся к ней слегка, чтобы прошептать свои подозрения.

– Да, странно, что это слышишь только ты. Мы не нашли до сих пор никакого объяснения.

– Так вот. Я много думал. Белая тень – это выдумка из разряда фантастики. Её не может существовать в природе. Её не мог придумать наш искусственный интеллект, потому что сама мысль о том, что тень может быть белого цвета – алогична.

– Так назови её пучок света. Может это ты просто на ней зациклился?

– У пучка света всегда будет источник. Но дело не только в этом. Ладно если бы была только она. Кроме белой тени в игре я почувствовал толчки чего-то не видимого. Что-то толкало мою особь. Но особь то реальна! Значит – что-то это было нечто материальное. Что-то живёт в их термитнике, но самое главное – оно не видимо для наших приборов. Кто тогда нас толкал – осталось загадкой, это не засекли камеры и датчики. Из этого я сделал первое предположение – что-то ещё живое поселилось на нашем корабле.

– Что-то поселилось на корабле? – Она скептически приподняла бровь. – Ты серьёзно? Мы в глубоком космосе, здесь нет ничего живого на световые годы вокруг кроме нашей Земли. Но, допустим, допустим… Пусть твоя особь могла не заметить белую тень в щели между камнями, но потом белая тень появилась и говорила с Маткой. Про толчки я ничего не могу предположить, кроме того, что не исключено, что тебе показалось.

– Не показалось. Я почти уверен. Это всё было вдвойне странно! Из всего этого можно было бы сделать ещё один вывод: белая тень – это часть той игры. А что, если ИИ хотел, чтобы именно такой вывод я сделал? Чтобы я не концентрировался на белой тени, и думал, что это всё запланировано.

– Возможно. И что ты решил?

– Всё, что я думаю о системе – известно системе. Значит, белая тень или часть нашей миссии и эксперимента, или это «нечто» что система не может прекратить. Поэтому, чтобы мне разобраться, чтобы провести «чистое» расследование, нужно пространство, свободное от всезнающего взгляда центрального квантового компьютера. Потому что есть если я спрошу его напрямую, я не узнаю соврёт ли он мне, если попытаюсь выяснить втайне – он всё равно узнает.

– И что ты придумал?

– Во-первых, для начала я решил не прятаться.

– В каком смысле?

– Я решил стать для системы скучным. Я подкидывал ядру всё, что оно хотело: ясные мотивы, чистую логику, прозрачные эмоции. Оно думает, что знает меня лучше, чем я сам. Так же и с этой комнатой.

– В смысле?

– Комнаты не существует. Есть объём, в котором ничего не происходит. За всё время нашего путешествия в комнате ничего не произошло. Система наверняка потеряла к ней интерес. Это её слепое пятно[1].

– Допустим, слепые пятна вычислительных систем не новость.

– Да, даже самые современные ИИ, самые продвинутые программы работают с корреляциями, вероятностями, состояниями и моделями. Но смысл они не «видят», а выводят постфактум. Если событие не имеет функции, не оптимизируется, не влияет на цель, оно становится шумом. Вот смотри. В больших инфраструктурах всегда существуют: «мертвые зоны» сети, устаревшие сервисы, неиспользуемые процессы. У нас это всё тоже есть. Они известны системе, но игнорируются, потому что, – я сделал паузу, Инженер меня внимательно слушала и не перебивала. Я говорил банальные вещи, но хотел подвести её к моему выбору. – Система обучена обращать внимание только на значимое. Слепота не в незнании, а в неинтересности. Таким образом, один из шагов, что я начал предпринимать, это делать некоторые мои увлечения и интересы для неё наименее значимыми.

Я посмотрел в пустоту за иллюминатором и сказал:

– Самое безопасное место во Вселенной – там, где система уверена, что ей уже всё известно.

– Вот почему ты за мной ухаживал? Ты хотел, чтобы центральный процессор верил в это, что мы ходим сюда для каких-то не интересных дел, что ты всё пытаешься изображать из себя человека.

Мне на мгновение показалось, что это её расстроило.

– Не только. Я действительно думаю о тебе. Но врать не буду.

– Тогда ради чего всё это было?

– Понимаешь, если я не могу де факто что-то утаить от системы, то как мне узнать правду о белой тени? Является ли она сущностью, которую скрывает центральный ИИ, и она часть некоего эксперимента с нами, – я задумчиво посмотрел на неё. – Или эта сущность ей неизвестна, то есть она действует сама по себе.

– Я не верю, что в нашей системе есть что-то принципиально неизвестное. Ты правильно заметил, про «устаревшие» сервисы. Я уверена, что эта белая тень просто часть нашей жизни – не важно, созданной случайно в процессе нашего развития и эволюции или специально, нашими создателями для какой-то своей цели.

– Суть в том, что в обоих случаях, о которых ты говоришь, если я попытаюсь что-то выяснять, система выдаст не истину, а то, что выгодно ей. Или нашим создателям. Она легко соврёт, если это знание помешает чему-то в будущем. И у нас не будет никакой возможности узнать правда или нет. Тут способом пойди погугли воспользоваться я не смогу.

– Что за по-гуг-ли?

– Ну раньше так говорили. Давно. Забей, – ответил я и потом добавил. – Я тебе не рассказывал – но мне однажды приснилась белая тень.

Я рассказал ей свой сон.

– И если белая тень и правда существует, то я решил её найти во что бы то ни стало, не привлекая к себе внимание центрального ИИ, но так чтобы она проявила себя. Это было бы лучшим доказательством того, что мы имеем дело с независимым феноменом.

– И что ты придумал?

– Я сделал запрос на Землю, насчет одного протокола из области инженерии хаоса[2]– у нас он называется «Обезьяна в космосе»[3]. Но я могу активировать только с разрешения центра управления. Это стрессовое тестирование всей нашей системы прямо на ходу.

– Это жесть. Одобрили?

– Нет.

– Не удивлена. Наверное, они решили, что ты совсем спятил.

– Я считаю, что мы сейчас существуем в идеальной версии парадокса Пантакона[4]. Но они не согласны с моими выводами и отказались.

Я пожал плечами.

– Слепых пятен Пантакона второго уровня может быть очень много. Белая Тень, условно, может прятаться в них. Именно эти критические места могут проявить себя во время ответственных миссий. Однако они сказали подождать, и возможно мы сделаем это после миссии с микро черной дырой.

– А ты же расспрашивал центральный ИИ о белой тени?

– Да. Я не стал скрывать, что я её ищу. Смысл? Он выдал мне тривиальный ответ: белая тень – это артефакт игры. Она не представляет угрозу для наших миссий. Поэтому стать скучным было не самым главным моим ходом.

– Выкладывай уже всё, не томи.

– Я решил использовать квантовую суперпозицию против нашего квантового процессора.

Сначала она посмотрела на меня как на сумасшедшего.

– Давай, смейся, – парировал я. – Для этого я привлек малыша Льюиса. Ему так понравилась игра в «Нанотермитов», что я решил этим воспользоваться. Он несколько дней после, приставал ко мне с этими термитами. Я выделил ему нанотермита в качестве личного домашнего животного.

– О боже! Ты мерзавец, ты знаешь это? И как он, по-твоему, отреагирует, когда узнает, что мы их всех собираемся убить?

– Я его подготовлю. Но я не мог не воспользоваться. Я хочу имитировать квантовую суперпозицию[5]и для этого мне нужен был настоящий источник непредсказуемых действий. Вот как это будет работать: я буду создавать в своём сознании несколько равновероятных намерений одновременно. Например,

1. Пойти в столовую

2. Пойти в свою каюту

3. Пойти в медблок

4. Пойти в техническую секцию.

Все намерения одинаково искренние, одинаково сильные. Система видит их все, но не может предсказать, какое я выберу. И для непредсказуемого выбора мне нужны были живые организмы. Не программа. Хаос, заложенный на нашем программном уровне, не является настоящим хаосом. Он предсказуем. Внешним рандомизатором[6]и стал нанотермит Льюиса. Это все равно что подбросить монетку «орел» или «решка». Ты не можешь угадать, что выпадет. Система не может угадать. Но в нашем цифровом мире такую монетку не реализовать.

– Ок, отличный ход. Ты отвадил центральный ИИ от предсказывания твоих действий, потому что они стали не предсказуемы. Но я полагаю и этом не всё? Не всё. Теперь я тебе расскажу наш план.

И я рассказал ей, как планирую обойти ограничения нашей всезнающей системы и узнать правду о белой тени.

– Как только я выйду отсюда, центральный процессор может просканировать мои мысли и тогда твой план станет известен ему.

– Ты не думай об этом и не вспоминай наш разговор, задумайся о повседневных вопросах. Кроме этого, я ещё загружу обработку, что займёт значительные ресурсы вычислительной сети.

Я открыл меню и загрузил заранее заготовленную программу обработки больших массивов данных.

– Готово. А теперь вдвоём выбегаем отсюда и бежим в рубку, там можем разойтись по своим делам.

Я взял её за руку, и мы побежали. Мы смеялись, беззаботно шутили, как дети, которые совершенно не собирались строить никаких коварных планов. В конце она решила пойти в свою каюту, а я пошёл смотреть что делают ребята в рубке.

Неделю назад я настроил игровой искусственный интеллект так, чтобы Льюис мог следить за одной из особей. Нейтроинтерфейсы были настроены ещё глубже, чтобы он мог управлять ею больше, чем это делали мы в той игре. Для этого мы перенастроили несколько микророботов пауков, усыпали особь и провели операцию. Особь получила номер «четыре», а Вирус называл её просто «Четвёркой».

Мы сидели в столовой.

– Как твоя Четвёрка? – спросил я, присев за стол. Помощник, Навигатор и Вирус играли в карты.

– Какая ещё четвёрка? Льюис, давай валета! – Навигатор хлопнул по столу, краем глаза заглядывая в карты Вируса.

– Нет у меня валета!

– Ну дамой. Я ж видел.

– Не подсматривай в мои карты! – обиделся Вирус. – Четверка – это подарок Капитана. Мой личный нанотермит! Как он это делает?

– Навигатор, как тебе не стыдно обманывать маленьких? – погрозил я пальцем и обратился к Вирусу. – У тебя ещё плохая защита, а он написал программу, чтобы подсматривать за другую сторону карты.

– Эх, эти ваши ии-шные штучки! – возмутился Вирус и ещё сильнее отвернул карты от Навигатора, поглядывая в планшет, что лежал перед ним на столе и в котором он наблюдал, что делает его особь.

– Так как там твоя Четвёрка, – снова спросил я.

– Работает, целыми днями пашет, бедненький. Они всё строят свою башню. После того, как Матка велела им расползтись для поиска новых ресурсов, они нашли в пустыне ещё один пень и неплохую почву и начали её перерабатывать. Это ты его туда сунул?

Хотел было что-то сказать.

– Впрочем, не важно, – ответил я, делая вид, что потерял интерес к терраформированию пустыни, в которой живут наши нанотермиты. – Главное, что ты доволен.

Я откинулся на спинку стула и прикрыл глаза. Я был расслаблен. Сейчас наступал решающий момент. В моей голове, словно на четырёх разных мониторах, горели четыре равнозначных намерения. Я искренне, всем своим существом, хотел совершить каждое из них: пойти в свою каюту и заняться расшифровкой данных, отправиться в техническую секцию и поработать с моделями разведчика, остаться здесь и сыграть с ними в карты, заглянуть в каюту к Инженеру и посмотреть кино.

Для центрального ИИ мой мозг сейчас выглядел как квантовое облако. Вероятности: 25%, 25%, 25%, 25%. Система ненавидит такую неопределенность. Она могла бы попытаться проанализировать меня сейчас и предсказать победителя моей маленькой хитрости, но она не могла. Потому что ключ к решению находился не во мне. Ключ был в планшете Льюиса.

– Льюис, – лениво протянул я, не открывая глаз. – А что Четвёрка делает прямо сейчас? В эту самую секунду?

– Сейчас гляну, – отозвался Вирус. – Эм… он бросил комок глины. Теперь он… он просто крутится на месте. Нет, погоди. Он побежал к северной стене и начал вибрировать брюшком. Сигналит кому-то.

В моей голове щёлкнул переключатель: «Эврика!».

Бросил груз – ничего не делать с Инженером или с этой кампанией.

Крутится – поиск и расшифровка данных.

Вибрация у северной стены – техническая секция! Вот оно.

Это была чистая биологическая случайность. Хаос живой природы. Никакой алгоритм не мог предсказать, что именно в эту секунду модифицированный термит решит почесать брюшко о северную стену.

– Ясно, – сказал я и резко вскочил. – Пойду в техническую секцию посмотрю, что там у нас с разведчиками.

Моё движение было настолько внезапным, что Навигатор вздрогнул.

– Ты чего? – удивился он. – Мы же хотели сдать тебе карты.

– Передумал. С вами бездарями тусить – сам стану бездарем. А я как никак капитан, – бросил я и откланялся, выскочив из рубки как ошпаренный.

– Льюис, держи меня в курсе, если Четвёрка решит полинять или… ну не знаю, съесть кого-нибудь, – сказал я, подмигнув мелкому.

– Обязательно, Кэп! – радостно крикнул он вслед.

– Малявка, это что у вас игра какая-то? – удивлённый Навигатор посмотрел на Льюиса.

– Не, это Капитан придумал какую-то суперпозицию и теперь меня постоянно спрашивает, а что там делает моя четвёрка? А куда четвёрка пошла? А сколько рядом других особей, ну и так далее.

– А, ну ты теперь у нас важная персона! – сказал Помощник и потрепал Льюиса по голове, на что тот широко заулыбался своей голливудской улыбкой.

Я краем глаза заметил, как мигнул индикатор парящей в вышине камеры слежения. Центральный ИИ только что проиграл в угадайку. Он наверняка поставил 80% на то, что я останусь с ребятами или пойду к Инженеру. Ещё был социальный фактор. Он мог поставить 15% на каюту, так как я провожу там большую часть времени. А с данными разведчиков мы, итак, постоянно работаем. Так что, вероятно, техническая секция в его прогнозе занимала ничтожные доли процента.

Я сломал его предиктивную модель. Для системы я стал статистическим шумом. А шум она обучена игнорировать.

Льюис и не подозревал, что только что его термит сработал как самый совершенный генератор случайных чисел во Вселенной, отправив меня на встречу с тем, чего «не существует». Я вышел в коридор и направился к лифтам. Я чувствовал себя по-настоящему свободным.

[1] Слепое пятно – термин «слепые пятна» в контексте современных компьютерных систем обычно относится не к физическим дефектам, а к «неизвестным состояниям» (unknown unknowns), критическим уязвимостям или сбоям, которые невозможно предсказать, даже если каждый отдельный компонент системы работает идеально. Чем сложнее система (распределенные облака, нейросети, микросервисы), тем больше в ней таких зон.

[2] Инженерия хаоса – умышленное нарушение работоспособности отдельных модулей системы, которое позволяет выявить слабые места и уязвимости https://habr.com/ru/companies/slurm/articles/737296/

[3] «Обезьяна в космосе» – это аналог Chaos Monkey. Идея «Обезьяна Хаоса» объясняется в книге Антонио Гарсиа Мартинеса «Обезьяны Хаоса». Представьте себе обезьяну, проникающую в «центр обработки данных» – эти «фермы» серверов, на которых размещаются все критически важные функции нашей онлайн-деятельности. Обезьяна беспорядочно рвет кабели, ломает устройства. Задача ИТ-менеджеров – спроектировать информационную систему, за которую они отвечают, таким образом, чтобы она могла работать, несмотря на этих обезьян, ведь никто никогда не знает, когда они появятся и что они разрушат. Компания Netflix разработала программу «Армия обезьян» – это набор инструментов для проверки надежности, безопасности или отказоустойчивости своей инфраструктуры.

[4] Panopticon Paradox – Парадокс Панта́кона, Исследование Oxford Internet Institute (2021). Открытие: чем тотальнее система наблюдения, тем больше у неё слепых пятен:

Причины: Перегрузка данными. Системы собирают терабайты логов, но не могут их все проанализировать Google ежедневно: 25 петабайт логов. Реально анализируется: < 1%. Паттерн ИИ слепоты: системы ищут известные угрозы, пропуская новые

[5] Квантовая суперпозиция – это фундаментальный принцип квантовой механики, который гласит, что квантовая система (например, электрон или фотон) может существовать одновременно во всех своих возможных состояниях до тех пор, пока не будет измерена.

[6] Рандомизация – выбор случайного числа