Читать книгу Четки - Рафал Косик - Страница 4

Профессор Россмуда выстукивал трубку об пробку посередине пепельницы. Это было излишне, поскольку трубка была единственным электрическим гаджетом, из которого можно было выпустить дым почти без запаха.

– Мы ни хрена не знаем, – сказал он в пространство.

– А что мы должны знать, – Талинский налил кофе в две кружки. – Мы всего лишь пара старперов, сидящих в каталажке и ведущих послеобеденные беседы, убивая время. Нам не хватает только безе на фарфоровых тарелочках.

Россмуда посмотрел на него со странной грустью и быстро опустил взгляд.

– Да-а-а, и серебряных вилочек…

– Вернемся к нашей излюбленной теме: должна ли g.A.I.a. быть над законом?

– Она рядом с законом, перед законом, – с напряжением сказал профессор. – Это совсем другое. g.A.I.a. следит за тем, чтобы закон не нарушали. Я уже приводил примеры, которые ты систематически игнорируешь. Напомнить? Смотри, ты можешь кидать в людей камнями. Если ни в кого не попадешь, получишь как максимум штраф; если убьешь кого-нибудь – посадят за преднамеренное убийство. Но кидая камень, ты не знаешь, попадешь в кого-то или нет. Так почему наказание должно зависеть от судьбы? Это то же самое, как если бы на суде подкидывали монетку: коктейли с зонтиками на Кольце Багамы или многолетнее заключение.

– Ты ищешь абсолютную справедливость? Или ты действительно фантазируешь о полном отказе от законодательства?

– Закон не является ценностью сам по себе. Он должен быть утилитарным, а потому должен уступить место более эффективной системе. Он, прежде всего, служит для поддержания порядка; на втором месте, и ты прекрасно об этом знаешь, стоит защита интересов группы, создающей этот закон, а только потом мутное понимание справедливости. Иллюзии справедливости. Целью беспристрастной g.A.I.a. должна быть защита общества. Пока эта защита определяется законом, но это только протез, поскольку закон не является основным понятием. Последняя реконфигурация g.A.I.a. показала, что эта гребаная система стремится в этом к совершенству, а ей мешают не только технологические ограничения, но и сам закон как посредник.

– И мы вдвоем являемся прекрасными тому примерами, – признал Талинский. – Твое пребывание здесь противоречит сложившемуся мировоззрению.

– То, что лучше для меня, не обязательно должно быть лучшим для всех. Конфликт тоже возникает в данном случае, это понятно. Но почему, скажи мне, я не должен вести себя эгоистично, если это часть культурной нормы?

– Но разве ты не должен подавать пример остальным?

– Только глупец или сумасшедший идет против тенденций. У меня нет склонности к самоубийству.

– И у меня, – признался Талинский. – Времена лидеров, идущих во главе толпы, давно прошли. Сейчас идеи генерируются из бункера в тылу.

– Из такого, как наш.

– Согласен.

– Видишь, я иду против себя, потому что хочу, чтобы система не допускала случаев, подобных моему. Нашим. Я хочу систему, в которой санкции неизбежны и не зависят от лотереи. Так было бы проще.

– Лотерея, о которой ты говоришь, – определитель нашей свободы.

– Дед, ты путаешь, свободу воли с приговором судьбы. Думаешь, что кидание камнями – это выражение индивидуальной свободы? Ну уж нет! Если идея ПО станет совершенной, кидание камней будет наказываться, независимо от результата. Наказание рассчитается статистически. Можешь кого-то убить, можешь и промахнуться. Нынешнее состояние способствует риску, потому что тот, кто кинул камень, может рассчитывать на то, что ни в кого не попадет. Таким образом, он надумывает вероятность, пробует воображать и увещевает себя тем, что избежит наказания. Ага! В мире идеальной гиперпревентивности наказание будет применено до того, как камень будет брошен. И никто не пострадает.

– Правила расчета ПО неизвестны. Неизвестны также и значения показателя. – Талинский откашлялся, маскируя другой тон голоса. – Можно попытаться вычислить, догадаться. Правила неясны, поэтому нельзя требовать от людей бездумно следовать им. Без ссылок на единый закон, гиперпревентивность потеряет моральную основу. Уже сейчас рассчитывается только вероятность, что кто-то кинет камень.

– Это возвращает нас к природе, неужели не видишь? Выживет тот, кто лучше всего приспособился к среде, созданной для нас g.A.I.a. Законы природы нигде не записаны, их нельзя вызубрить, нельзя обжаловать решение в высшей инстанции. Жаба, съеденная аистом, не будет жаловаться. В конце концов, ты знаешь правила: с воронами по-вороньи каркать. А знание закона только облегчает его обход. Знание следственных процедур помогает скрывать следы, а судебных – избегать наказания. Законы природы нельзя игнорировать, обойти, поменять. Тем более, нельзя избежать наказания. Идеальная система гиперпревентивности будет такой же. Мир без преступлений, можешь представить?

– То есть ты считаешь, что высшей целью g.A.I.a. должно стать исключительно благо общества? Я не буду напоминать, сколько уже было концепций осчастливливания людей…

– Речь не о благе людей, а о благе человечества. Пойми, баран, это две разные вещи. Мы живем в искусственной среде, то есть в этом Кольце, мы в одной телеге во всех Четках. Ошибка предыдущих попыток осчастливить человечество состоит в том, что это делали сами люди, испорченные чертами характера, собственными слабостями, вбитыми в голову культурными ограничениями. g.A.I.a. от этого свободна, и конечным результатом системы ПО должно стать благо общества.

– Почему не сама g.A.I.a., а? Она не справедливый бог, только один из игроков. Игрок и бог в одном лице. Судья игры, в которую сама играет. Извращение, ты так не считаешь?

– Нет, ее нельзя извратить, как нас. Она будет игроком какое-то время, пока не достигнет состояния идеальной абсолютной власти. Как только это наступит, ей уже не нужно будет заниматься собственной безопасностью – она поднимется над этой игрой и реализует настоящие цели.

– Послушай, старый хрыч, – Талинский сложил руки на груди, – сколько раз слышу о претворении идеалов в жизнь, столько раз и вижу братские могилы. Во время работы над Прометеем я анализировал деяния g.A.I.a. Нет, я и близко не подобрался к пониманию искусственного интеллекта. Я не понимал ее мотивов, не знал целей. Это сущность, вырвавшаяся из наших рук и переросшая нас на несколько порядков. В ней нет ничего человеческого, ничего из того, что много лет вкладывали в нее программисты.

– Ты реально не понимаешь? Ведь в этом и есть гарантия нашей безопасности! g.A.I.a. не может проявлять какие-либо человеческие качества, потому что среди них есть и отрицательные. И даже наши прекрасные возвышенные чувства могут быть убийственными! Нам нужно бесчеловечное управление цивилизацией. В космическом масштабе нет места чувствам. Остается математика.

Талинский с беспокойством осознал, что мысли профессора мало в чем сходятся с его собственными.

– И во имя этой математики членов Прометея предавали Элиминации? – спросил он. – Проект создали согласно закону, за который проголосовали почти единогласно. Она работала согласно закону, соблюдение которого является высшим заданием g.A.I.a. Однако проект перестал существовать, когда стало не хватать ключевых специалистов. Часть подвергли Элиминации, а часть сбежали из проекта, не желая разделить их судьбу.

– Успокойся, Прометей был угрозой для g.A.I.a. Она вынуждена была защищаться.

– То есть инстинкт выживания? Если у g.A.I.a. будет выбор: она или человечество, что же она выберет? Пойми, разумное существо должно развивать инстинкт самосохранения.

– Ерунда! Даже если ты хочешь трактовать g.A.I.a. как существо, что само по себе рискованное предположение, ты должен помнить, что это существо – первое и единственное в своем роде. Инстинкт самосохранения – это результат естественного отбора миллионов поколений. Тут нет речи ни о каком отборе.

– g.A.I.a. поглотила несколько подобных программ. К тому же не стоит забывать, что мы говорим об искусственном интеллекте, который имеет доступ ко всем знаниям человечества. Она знает, что такое инстинкт самосохранения.

– Этих знаний недостаточно для его самореализации, – упирался профессор. – У нее должна быть свобода воли. Ты тоже знаешь, как сочинять музыку. Но это не означает, что ты можешь собрать в кучу хотя бы три ноты.

– У кузнечика есть инстинкт самосохранения. Ты хочешь сказать, что у него есть и свобода воли?

– У кузнечика есть комплект инстинктов с самого начала. А g.A.I.a. должна была бы добавить эти инстинкты в свой код, а для этого должна была бы сначала осознать их полезность. В конце концов, откуда ты знаешь, что она защищалась, чтобы выжить? Я думаю, что она защищалась, чтобы ее миссия могла продолжаться и дальше без помех.

– С нашей точки зрения, выходит одно и то же, – заметил Талинский. – Защищает ли она себя или миссию, это ничего не меняет. Она убирает людей, которые хотят ее контролировать.

– Пойми, если g.A.I.a. отождествляет себя с миссией, то это означает, что она делает именно то, для чего ее создали. Она препятствует нарушению закона, используя гиперпревентивность. Предвидит, какие деяния после каких-то там этапов приведут к нарушению закона. Это обратный эффект бабочки. g.A.I.a. выполняет почти бесконечное число симуляций, изменяя мелкие параметры, ищет для нас наиболее безопасные пути, а потом идет против течения времени, следуя за потоками вероятности, и предвидит то, что поможет избежать катастрофы. Она удаляет первую раковую клетку еще до ее деления, до того, как она превратится в неоперабельную опухоль. Я глубоко верю, что основной целью g.A.I.a. является благо человечества.

Талинский покачал головой.

– Когда-то один философ сказал, что есть только три вида правды: святая правда, тоже правда и чушь собачья. Вот с этим благом для человечества – это третий вид правды.

– Ты знаешь, кто следит за центром тяжести Кольца Варшава? Не алчные застройщики же, которые построили бы два здания в одном месте, если бы это позволили законы физики.

– Думаю, что этим занимается соответствующий орган.

– Орган в делах балансировки кольца? Не неси чушь.

– Все как всегда! Когда ты не прав, ты сразу направляешь нашу дискуссию в другое русло. Постоянно растет число ложных обвинений во всех возможных преступлениях против закона и традиций. Формулировка «осудить кого-то на смерть» уже не является образной. Это новая стратегия избавления от политических врагов, использующая механизм гиперпревентивности. Что из того, что кто-то чист? Что из того, что в результате долгого разбирательства его официально оправдают? Что из того, что ему выплатят огромную компенсацию? Невиновный уже давно исчезнет в Элиминации. Где в этом благо человечества?

– Время святой правды. Ты должен признать это. Нет личности без общества, но общество может обойтись без личности. Благо одного человека менее важно, чем благо общества.

– Поэтому нас должны разводить, как форель в Кольце Осло? – Талинский мерил камеру шагами. – Сначала мы попробуем заставить g.A.I.a. уважать… принципы нашей человечности.

– Ты хочешь научить искусственный интеллект гуманизму? Ты как мотылек, который стремится научить человека кружить вокруг лампы, потому что это единственное, что он умеет.

– Мы – я, ты – не являемся сраным обществом, мы – личности. Я. Я – личность. Общество – это только слово, что обозначает много таких, как я или ты. И не общество должно быть счастливым, а мы все, каждый отдельно по-своему. Но даже, хрен с тобой, возьмем это «благо человечества». Что это вообще такое? Какой параметр является самым важным? Здоровье, богатство, успех, долголетие, равенство, справедливость, индивидуализм? Всего сразу не реализуем, обосремся. От чего-то надо отказаться, поскольку эти ценности прекрасны и одновременно противоречат друг другу. Даже если благодаря g.A.I.a. этот мир достигнет одной из версий совершенства, то только часть общества будет счастливой. Другие стремятся к другим совершенствам. Ведь жизнь складывается из маленьких радостей и неприятностей, из неудач и ошибок. Из риска. Хочешь, чтобы это все исчезло во имя какого-то абстрактного «блага человечества»?

– Люди умирали из-за разницы в пропорции между этими параметрами. Ты считаешь, что общество существует исключительно для блага личности?

– Я считаю, что одно не может существовать без другого. Если мы обезличимся, это подорвет смысл существования общества. Зачем принадлежать обществу, если оно враждебно по отношению к личности? К тому же где ты в этом сценарии видишь справедливость?

– Ты говоришь так, как будто жил с иллюзией закона, гарантирующего справедливость, – профессор развел руками. – Это бред сивой кобылы для темных людей. Либо равенство, либо справедливость, либо свобода. Основной функцией закона было и остается поддержание порядка. Знаешь, как превратить человека с моральными принципами в извращенца? Не нужно менять самого человека, просто измени сами принципы. Не сосчитать, сколько раз за историю человечества герои постфактум становились преступниками.

– Гиперпревентивность отменяет моральные принципы.

– Нет, мой дорогой, она устанавливает новые критерии оценки нашего поведения. Много лет назад, до Перемен, было громкое дело одного лунатика… не помню, как его звали. Он ходил во сне и цеплялся к людям, кого-то даже избил. Он обыгрывал сцены из своих снов. Он понес наказание за действия, совершенные во сне, которых даже не помнил. Ты назвал бы это справедливостью? Или другой случай: мужчина в результате сильного избиения получил травму головы. У него начали проявляться приступы агрессии. Три раза он избил жену, кидался на полицейских. Пошел за это в тюрьму, но разве это справедливо? Перед избиением он таким не был. Разве за его поступки не должен ответить виновник его состояния?

– Конечно, должен, – неохотно согласился Талинский. – Но нет закона, который смог бы описать подобные хитросплетения.

– Хорошо, идем дальше. Ты знаешь, что при пересадке костного мозга реципиент получает многие качества донора: кулинарные предпочтения, темперамент, иногда даже цвет глаз. Что будет, если ему пересадят костный мозг серийного убийцы? Кто будет виноват в превращении спокойного человека в чудовище?

– Успокойся, ты превращаешь нашу дискуссию в абсурд.

– Нет, только показываю уровень сложности дела, которое должно регулироваться законом. Помни, что закон одинаков для всех. Тут, так или иначе, нет места справедливости. Никто не сможет оценить, за что отвечает наша воля, а что является результатом, например, детской травмы. Ребенка, которого регулярно избивает мать-наркоманка, мы называем жертвой. Но через двадцать лет эта жертва убьет кого-нибудь в приступе злости, и мы назовем его преступником. А убил он только потому, что в детстве над ним издевались. Это доказывает причинно-следственные связи.

– Тут в игру входят скорее корреляционные факторы. Ребенок унаследует от матери склонность к пристрастиям, даже если она не наркоманка.

– Я уверен, что g.A.I.a. анализирует каждый случай, опираясь на недоступные нам параметры и неведомые нам алгоритмы. Используя показатели ПО, она устраняет из нашего коллективного сознания моральную дилемму о том, кто виноват. Скоро виновных не будет вообще, потому что исчезнут те, кто, вероятно, мог бы им стать независимо от причин. При совершенном надзоре над всеми гражданами мать-наркоманка не издевалась бы над ребенком. Она бы даже не стала наркоманкой. Разве ты не видишь красоту этой идеи?

– Это утопия! Ты настолько глуп, что веришь в ее применение в рамках реальности? Никто не может проверить законность целого процесса. Я говорю даже не о злой воле, а об ошибочном анализе вероятности Потенциальной Опасности. Если Элиминация заберет невиновного, мы об этом даже не узнаем.

– Я же про это и говорю, ты меня вообще слушал? – Россмуда отложил трубку, чтобы свободно жестикулировать. – Виновный или невиновный – это понятия, которые должны уйти в небытие. Ведь это можно установить только после факта совершения преступления.

– Оптимизация до бесконечности каждого из процессов приводит к абсурдности. Если я встречаюсь с приятелем в кабаке, чтобы обсудить детали совместной рыбалки на берегу реки в районе Прага, то трачу много времени и денег. Кажется логичным, что оптимизация должна сократить время обмена информацией и снизить затраты. Мы могли бы это уладить с помощью коммуникаторов, не выходя из дома. Вместо того чтобы покупать супер-удочки, о которых мы мечтаем, лучше купить их дешевый аналог, поскольку мы не часто будем ездить на рыбалку. А еще лучше удочки одолжить и не ехать в район Прага на заросший осокой берег, а только на Повисле, где на бетонном берегу удобней рыбачить. И вот в один прекрасный день этот процесс оптимизации приведет к тому, что вместо рыбалки мы купим сраное замороженное филе минтая.

– Это было бы разумно.

Талинский покачал головой.

– Если все должно подвергаться максимальной оптимизации, то зачем нужны люди с сознанием? Лучше превратить нас в машины. Нет, что я говорю! Лучше ликвидировать человечество, поскольку, с твоей точки зрения, мы не занимается ничем, кроме энтропии Вселенной!

– Признаю, что рыбалка на Висле абсолютно нерациональна.

– Ты, наверное, хотел бы жить в каком-то утопическом социализме, в обществе роботов! В истории с приятелем суть не в этой чертовой рыбе, которой в Висле даже нет, а только в поводе, чтобы выпить с другом пиво.