Читать книгу Меркнет свет - Бах Роуз - Страница 4

Внезапное чувство падения разбудило Себастьяна. В руках у него был журнал последних новостей – кажется, он уснул, читая. Сбоку и перед ним сидели такие же ребята: напротив – в костюме и брюках, а слева – в рубашке и джинсах. Парень спереди нервно качал ногой, заполняя анкету, которую заполнил и он.

– Как же они долго, – прокомментировал Себастьян.

Парень в костюме не ответил. Тот, что слева, только согласно хмыкнул.

– У вас тоже отобрали телефоны?

Тот, что в рубашке и джинсах, кивнул. «У них что – языки оторвали?» – думал Себастьян.

Вдруг дверь неподалеку открылась. Осматривая очередь, вышел мужчина в халате.

– Хм. Себастьян? – вычитал он из планшета.

– Себастьян радостно вскочил, но закружилась голова. Неужели он начал стареть? Похоже, нужно поменьше резких движений. Мужчина в халате провел его в зал. Большое помещение, кругом такие же люди в халатах; головокружение не проходило. К ним подошла пара мужчин – они что-то говорили, Себастьян будто не слушал.

– Итак, перед вами, господин Себастьян, вы можете видеть три двери. Каждая дверь ведет в идентичную комнату, в которой вам предстоит провести диалог с человеком за непрозрачным стеклом. Вы меня слушаете?

– Да-да, простите.

– Вы в порядке?

– Да, в полном, – был бы, не будь этой чертовой мигрени. Может быть, все из-за кофе? Я слишком много его пью.

– Вы не могли бы повторить, что я сейчас сказал?

– Что? Зачем?

– Просто, мне кажется, вы не совсем внимательно меня слушали.

– Серьезно?

– Вполне.

– Не могли бы вы повторить, как вас зовут?

– Меня зовут Эндрю Бродли, я ведущий инженер корпорации «Икар».

– Итак, Эндрю, я здесь, чтобы получить свои двести баксов за участие в каком-то тесте, это говорит о том, что я не хотел бы тратить свое драгоценное время впустую, поэтому давайте быстрее сделайте ваши формальности, я забегу в ваши волшебные комнатки, перекинусь парой слов, возьму деньги и свалю? – Черт, опять разозлился без причины. – Простите, Эндрю, – сразу же извинился Себастьян.

Инженер озадаченно переглянулся с коллегой, после посмотрел на Себастьяна.

– Уведите его и приведите следующего, – холодно произнес Эндрю, отвернулся и углубился в свои бумажки. Себастьяну на плечо легла рука охранника, он испугался.

– Нет-нет! Простите меня! Дайте шанс, прошу вас.

Инженер посмотрел исподлобья на Себастьяна.

– Просто… в последнее время у меня бывают такие, эм, конфузы. Но мне очень нужны деньги, пожалуйста, дайте мне шанс.

Инженеры пошептались.

– Хорошо.

Себастьян облегченно выдохнул.

– Вы готовы повторить сказанное мной?

– Да. Перед нами три двери с идентичными комнатами, внутри за непрозрачным стеклом сидит человек, с которым мне предстоит провести диалог, верно?

– Так-то лучше, господин Себастьян.

– Но, насколько я знаю, «Икар» является технологической корпорацией. Зачем вам проводить тесты психологического характера?

– Конечно, сейчас объясню. Суть эксперимента заключается в том, что в одной из комнат вам предстоит столкнуться с искусственным интеллектом. Ваша задача заключается в том, чтобы опознать его среди людей. Эксперимент закончится тогда, когда вы будете уверены, что говорите с ИИ. Тогда вы нажмете красную кнопку, которая находится на столе около стекла. Это скажет нам о том, что вы полностью уверены, что говорите не с живым человеком.

– То есть в одной из трех комнат два живых человека и только один не живой?

– Я, к сожалению, не располагаю точной информацией. Возможно, там везде сидят люди, а возможно, везде роботы. Именно это вам предстоит выяснить, но если вы найдете робота, то вам заплатят втройне.

Себастьян задумчиво оглянул комнаты.

– А что, если я буду уверен, что говорю с человеком?

– В таком случае нажмите на зеленую кнопку и переходите в следующую комнату.

– Значит, я детектив, который ищет правду?

– Хорошая аллегория, господин Себастьян. Можно и так сказать.

Снова приступ мигрени, будто в голове бьет гром. Себастьян зажмурился, сжав виски.

– С вами все хорошо?

– Да. Да, все в порядке, – соврал Себастьян, – просто голова немного кружится.

Недолго думая, он зашел в комнату № 1. Инженеры полностью оставили мне выбор, откуда начать. Вот что здесь интересно, так это расположение порядка комнат и цвет дверей: они идут в обратном порядке, слева направо, под номерами «три» – красная, «два» – синяя, «один» – желтая. Возможно, это обычная мелочь, но, возможно, это является неким психологическим тестом, определяющим мой образ мышления.

Некоторые начнут слева направо, в правильном порядке чтения текста большинства стран, а некоторые начнут с правильного порядка чисел, как я. Но что если выбор первой комнаты дает первую информацию искусственному интеллекту об образе моего мышления, а он, в свою очередь, основываясь на этом, выбирает наиболее правильный метод обмануть меня? Черт возьми, опять головная боль. Решено: быстро зайду в комнату номер один, обменяюсь парой слов, нажму на кнопку, получу деньги и свалю отсюда, иначе эта мигрень меня с ума сведет.

В комнате темнее, чем Себастьян предполагал. Единственный свет исходит от неоновых лент, расположенных в нижних углах пола. В углу потолка он заметил камеру видеонаблюдения с красным огоньком, посреди комнаты стоит стул, перед ним половина стола, закрытая стеной, посреди которого непрозрачное стекло с тоненьким проемом снизу – наверное, чтобы что-то передавать, например листки бумаги. На столе слева расположена зеленая кнопка, а справа – красная. Между ними лежат блокнот и карандаш.

Себастьян сел, расположился поудобнее.

Некоторое время была абсолютная тишина – может, пару минут, а может, пару десятков. Когда сидишь в такой комнате, течение времени меняется.

Себастьян думал, что когда войдет, то сразу все начнется, а в итоге ему приходится сидеть и ждать впустую.

– Здесь есть кто-нибудь? – все-таки терпение не безгранично, но никто не ответил. Минуту спустя послышался однотонный сигнал, после чего женский голос произнес: «Звук включен».

– Что? А зачем его выключали? – чей-то голос послышался на другой стороне.

– Здесь кто-то есть? – спросил Себастьян и понял, что это глупый вопрос, он ведь только что кого-то слышал.

– Да, а кто говорит со мной?

– У меня тот же вопрос.

Недолгая пауза.

– Хорошо. Меня зовут Роб.

– Просто «Роб»?

– А что, обязательно называть свою фамилию?

– Не думаю, но я бы хотел знать твое имя.

– Просто мне кажется, что, если искусственный интеллект узнает мое полное имя, то ему будет проще обмануть меня.

– Знаешь, кто бы еще так сказал? Искусственный интеллект. Потому что создатели просто поленились придумать ему фамилию.

– Ну да, это логично, но у меня есть фамилия, просто мне не хочется ее называть тебе.

Себастьян подумал, что ему почему-то тоже не хочется называть свое полное имя.

– Знаешь, что еще забавно?

– Что?

– Что тебя зовут Роб.

– А что тут забавного?

– «Роб» – созвучно с «Робот».

– Ха-ха, да, это забавно.

– Мне кажется, я говорю с машиной.

– Неужели? Мне почему-то показалось так же, ведь ты не назвал своего имени.

– Меня зовут Себастьян – звучит не как имя машины, правда?

– Я думаю, машину бы назвали именно так, чтобы не звучало, как имя машины.

– А как обычно называют машин?

– Не знаю. Обычно подобные проекты называют в честь мифических героев – типа Деус, или Локи.

– Ага, в каком-нибудь научно-фантастическом блокбастере.

Снова пауза.

– Слушай, Роб.

– Да?

– У нас ведь тут время неограниченно?

– Да.

– Так, может, начнем говорить на какие-нибудь темы, которые помогут определить, с человеком мы говорим или нет? Просто мне не очень хочется застрять здесь на весь день.

– А ты куда-то спешишь?

– Что?

– Куда-то спешишь, Себастьян?

Зачем ему знать, куда я спешу? Похоже, он попытается манипулировать диалогом путем наводящих вопросов. Так бы сделал искусственный интеллект. Хорошо, Роб, я тебя понял, буду осторожен.

– Не особо, просто мне кажется непрактичным тратить здесь весь день впустую, когда можно за пару минут закончить с этим.

– Так на какие темы ты предлагаешь говорить?

Недолгая пауза.

– Даже не знаю. Мне кажется, нужно говорить о таких вещах, о которых робот бы затруднялся рассуждать.

– Например?

Себастьян задумался, пытаясь вспомнить, что касается только человеческого существа.

– О боге, вере, страхе, смерти, рождении, любви.

– Ох, любовь. Это так по-человечески.

Мне кажется или Роб сказал это с какой-то насмешкой? Хорошо, Роб, сейчас я возьму тебя за электронные яйца.

– Кто был последним, кого ты любил?

– А с чего ты взял, что сейчас я никого не люблю?

– То, как ты выделил любовь, когда я перечислял темы, – мне показалось, что это волнует тебя больше всего.

– Эта тема волнует всех людей на свете, Себастьян. У меня есть жена и дети, я их люблю. А что насчет тебя?

– Я холост.

– А ты любил кого-нибудь в своей жизни? По-настоящему любил?

– Я не знаю, Роб. А что такое любить по-настоящему?

– Это когда ты не представляешь своей жизни без кого-то, кого ты любишь.

Такие банальные слова, словно из книжки, которую легко можно закачать в искусственный интеллект.

– Я не представляю своей жизни без воды. Это значит, что я люблю ее?

– Эм, да. Я люблю воду, но это не совсем та любовь, о которой я говорю.

– В чем же различия?

– Когда ты пьешь воду, то делаешь это из необходимости, ведь ты не выживешь без нее. Но когда ты любишь человека, то жертвуешь многим, прилагаешь огромные усилия, чтобы поддерживать отношения между вами. Когда ты пьешь – ты ничем не жертвуешь. Вода – она просто есть, и ты ее просто пьешь, она не требует от тебя внимания, твоих эмоций и заботы.

– Хорошо, Роб, я тебя понял. Возможно, я любил однажды, когда учился в вузе, потому что у нас было что-то схожее с тем, что ты описал. Но тем не менее нет никаких гарантий, что робот бы не смог ответить так же, ведь, по сути, описание любви – это совокупность слов, которые люди тысячелетиями выражали в книгах и искусстве.

– А что такое искусство, Себастьян?

Тишина.

Это хороший вопрос, ведь роботы навряд ли понимают, что такое искусство. Даже люди не особо это понимают.

– Это трудный вопрос, Роб.

– Поэтому я его задал. Потому что робот бы не смог на него ответить.

– А ты сможешь на него ответить? Может, ты и есть робот, и самый страшный для тебя вопрос ты решил переложить на человека?

– Это был бы хороший ход.

– Это был бы ход победителя в этой игре.

– Что ж…

Минута тишины. Оба раздумывают, как быть.

– Давай так, – начал Роб, – предлагаю нам обоим ответить на этот вопрос, но раз уж я первый спросил тебя про искусство, то ты отвечаешь первый.

– Ладно, я попробую это сделать, – Себастьян помедлил, подбирая правильные слова. – Искусство – это в первую очередь существо человека, ведь без человека не было бы искусства, и человек, занимающийся искусством, считается художником. Художники в какой-то степени являются мыслителями, ведь когда они что-то делают, то раздумывают над тем, делают ли они правильно или неправильно, и если им что-то не нравится, то они начинают заново. Каждый раз художники постоянно находятся в процессе создания искусства, они пытаются понять глубинные смыслы бытия, проектируя свое видение на холсте, в скульптуре или поэзии. Поэтому я считаю, что искусство – это процесс, через который художник демонстрирует свое видение смысла.

– Какой замечательный ответ.

– А ты что на это скажешь?.

– Я думаю, робот бы не смог так ответить, разве что если в него заранее не загрузили чьи-то формулировки понятия искусства.

– Потому что я не робот. Что ж, Роб, твоя очередь.

– Я даже не знаю, что тут можно добавить, потому что мое видение искусства до твоих слов представлялось чем-то иным, более простым. Искусство казалось для меня абстракцией бытия, попыткой взглянуть на вещи как-то иначе.

А что, если Роб – искусственный интеллект, который постоянно общается с такими, как я, а комнаты представляют собой уровни, и с каждым уровнем робот становится умнее и его сложнее обмануть? Если это так, то похоже, что я только что научил робота говорить про искусство. Я практически уверен в том, что говорю с роботом, почти готов нажать красную кнопку, но надо быть уверенным на все сто. Только если я правильно определю искусственный интеллект, мне заплатят втройне.

– Ладно, Роб. Если тебе нечего добавить на тему искусства, то, может, поговорим о Боге?

– Хорошо, давай поговорим.

– Ты веришь в существование Бога?

– Нет.

– Почему? Может, потому, что искусственный интеллект, созданный людьми, считал бы нас богами?

– Ха-ха, нет, Себастьян, я не искусственный интеллект и уж тем более людей за богов не считаю. Я обыкновенный атеист, таких полно среди людей.

– Но людям свойственно верить во что-то, так во что веришь ты?

– Пожалуй, я верю в себя, свое существование и в мир вокруг. А существование Бога никогда не было доказано и не будет.

– Отсутствие доказательств не является доказательством отсутствия.

– Некоторые трансцендентные вещи в метафизической реальности не подлежат поиску доказательств.

– И ты никогда не задумывался о том, как ты произошел на свет?

– Конечно, задумывался, но неужели ты думаешь, что нас создал Господь по своему образу и подобию?

– Почему нет?

– Смотри, перед тобой есть карандаш?

– Да.

– Возьми его в руки.

– Взял.

– Что ты чувствуешь? Опиши его по ощущениям.

– Он прохладный, гладкий, твердый.

– Ты его чувствуешь потому, что он есть. Он есть для тебя потому, что ты можешь его видеть и трогать. Твои ощущения передаются по нервным клеткам в твой мозг. После, твой мозг передает эту информацию в область, внутри которого заключено твоё «я». И вот к чему я веду: неужели ты думаешь, что Бог, создавший нас по своему образу и подобию, имел нервные клетки, какие имеем мы?

– Я не думаю, что Бог выглядит, как мы, Роб, это архаичное утверждение. Я думаю, что мы не способны осознать самого Бога, не то, что узреть его. Я думаю, что Бог – это все вокруг. Безусловно, существование у людей сознания является чудом и величайшей загадкой этого мира, в то время как весь остальной мир, включая животных, не имеет сознания, но имеет лишь сущность.

– Хорошо, Себастьян. Верующие часто говорят, что Бог – всемогущий. Так скажи мне, если он всемогущий, то способен ли он создать такой камень, который не сможет поднять?

– Это тупиковый метафизический вопрос, потому что, если Бог сможет создать такой камень, то он перестает быть всемогущим, а если не сможет создать его, то он и не был таковым. Опять же, я думаю, что у нас разное представление о Боге, Роб. Для меня это не всемогущий старик, для меня это всемогущая сила, образовавшая все вокруг.

– И все-таки постарайся на него ответить, пожалуйста.

– Ладно. Представим, что Бог – это всемогущий старик на небесах. Сможет ли он создать камень, который не сможет поднять? Я думаю, сможет.

– Почему ты так думаешь?

– Создав такой камень, он создаст нечто иное, например приспособление или какое-нибудь существо, которое будет поднимать камень за него. Так он останется всемогущим, потому как на определенное действие он автоматически создает противодействие. Я убедил тебя?

– Думаю, ты ответил на вопрос, но я по-прежнему останусь при своем. Все-таки за всю свою жизнь и за всю историю человечества не было зафиксировано ничего сверхъестественного, что бы доказывало существование высших сил.

– А как же наука?

– Наука – это детище человека, а не Бога. Все-таки первый огонь создал человек прямоходящий, Homo erectus, а не Бог, который светил Авелю своим солнечным лучом и разжег костер.

– Но наука – это то же самое, что и вера.

– Что за абсурд, Себастьян? Религия дает людям некоторые правила бытия, учит нас «правильно» жить в этом мире, а наука пытается объяснить мир.

– И тем не менее наука склонна менять свое «объяснение» с каждым десятилетием. Например, раньше полагали, что солнце имеет прямые лучи – это было наукой, это было фактом, это было постулатом. Однако сейчас наука знает, что солнечные лучи преломляются, падая на землю.

– Да, но наука – это факт, и ее объяснения тоже фактичные.

– Поэтому наука никогда не дает стопроцентный ответ? У науки всегда плавающие ответы, а если она в чем-то безусловно и полностью уверена, то, вероятнее всего, она будет уверена на 99.9 %, а не на 100 %. Соответственно наука сама признает факт, что может ошибаться.

– Безусловно, это даже не отрицалось. Однако есть вещи, на которые наука даст стопроцентный ответ.

– Например?

– 2×2 = 4. Это стопроцентный факт, не подлежащий сомнению, – добавил Роб.

– Не спорю, есть вещи, обладающие силой «факта», и они не подлежат обсуждению. Но во всем остальном, получается, что наука – это вера в то, что все, что мы знаем о мире на данный момент, не изменится в будущем?

– Понятие веры растяжимо, Себастьян. Если ты хочешь считать, что наука – это вера, то считай. Никто не запретит, в этом есть логика.

– Ты говоришь, как искусственный интеллект, который берет свои знания из энциклопедий.

Неужели инженеры из «Икара» настолько обленились, что просто загрузили в мозг обыкновенную информацию из энциклопедий? Им определенно стоит работать усерднее.

– Что ж, люди тоже берут свои знания из энциклопедий. Так уж устроен мир.

Так забавно наблюдать рассуждения робота о том, как устроен мир.

– Ну что, Роб, может, вынесем друг другу приговор?

– Позволь спросить, какую кнопку ты нажмешь?

– Красную.

– Это забавно, потому что выходит, что я, Роб Малек, являюсь искусственным интеллектом. В таком случае я нажму на зеленый и выиграю двести баксов, а ты, если ошибешься, пойдешь тратить время дальше в других комнатах.

Роб Малек? Знакомое имя.

– Зачем назвал полное имя?

– Потому что уже все равно.

Он пытается меня провести. Манипулирует, используя возможный проигрыш денег, как аргумент, чтобы я нажал на зеленую кнопку и ошибся. Это значит, он знает, что я сейчас нуждаюсь в деньгах, но откуда?

Недолгое молчание.

– Роб Малек?

– Да?

– Я где-то слышал это имя.

– Наверное, видел меня по ТВ?

– А кто ты?

– Я актер.

Снова молчание.

Актер? Вот, значит, почему его имя кажется мне знакомым. А что, если он все-таки не врет? Тогда я потеряю свои деньги. Хотя зачем голливудскому актеру участвовать в таких экспериментах? Это же полный бред, он пытается провести меня! Робот мог использовать информацию из интернета, чтобы обмануть.

– Может, все-таки назовешь мне свое имя, Себастьян?

Но надо быть уверенным.

– Как зовут твоих детей?

– Адам и Джей, шестнадцать и одиннадцать лет.

– А жену?

– Джессика Линдеман, тридцать шесть лет, актриса.

– Когда ты впервые снялся в кино?

– Мне было четырнадцать, фильм назывался «Затишье Ведьмы».

Он отвечает четко, быстро, без лишних слов, даже не задумывается ни на секунду. Я точно уверен, что разговариваю с искусственным интеллектом, тем более, в самом начале эксперимента после звукового сигнала женский голос произнес, что звук включен, и в этот момент Роб спросил, зачем его выключали. Это говорит о том, что он уже сидел здесь до меня и с кем-то разговаривал. Я практически наверняка уверен в своей правоте.

– Так ты не назовешь мне свое имя, Себастьян?

– Нет.

– Почему?

– Потому что уже все равно. Давай нажимать, – Себастьян протянул руку над красной кнопкой, помедлил, – ты слышал меня, Роб?

– Да, Себастьян, я готов.

– Тогда нажимаем.

Прозвучал однотонный сигнал, освещение в комнате медленно становилось ярче, заговорил женский голос: «Тест завершен. Пожалуйста, покиньте комнату». Себастьян вышел, глаза немного привыкли к свету, но снаружи было намного светлее. Он сощурился, мигрень мгновенно оказалась тут как тут и так же мгновенно исчезла. К комнате подошли инженеры в халатах вместе с Эндрю Бродли.

– Как самочувствие? – спросил Эндрю.

– Все отлично. Кажется, я сегодня уйду с тройной суммой.

Они посмеялись.

– Возможно, но сначала нам нужно пройти в конференц-зал.

– Без проблем, – они пошли налево по коридору, – это оказалось быстрее, чем я предполагал. Я уже готовился часами прыгать из комнаты в комнату в поисках вашего искусственного интеллекта.

– Я рад, что вы с этим быстро разобрались, господин Себастьян.

– Благодарю вас, что предоставили мне такую возможность. Это был очень интересный опыт, – они подошли к невысокой лестнице.

– Мне нужно покинуть вас на минуту, позже вас пригласят, – сказал Эндрю, поднялся по лестнице, открыл дверь и вышел. Себастьян весело подтягивался на носочках, осматривал коридор, глядел на людей в халатах – кто-то делал записи, кто-то был углублен на экраны планшетов, некоторые просто стояли и ждали, переглядываясь. Чем дольше они ждали, тем интереснее становилось Себастьяну. Через минуту дверь открылась, выглянул человек и позвал всех подняться. Доктора поскакали вверх по лестнице, Себастьян стоял и не знал, стоит ли ему тоже идти.

– Эй, друг, мне тоже идти с вами? – он окликнул одного из докторов.

– Да, конечно, без тебя никак.

Они поднялись. Дверь выходила в большое, очень яркое помещение, посреди которого стояли несколько людей, Эндрю Бродли и двое мужчин в костюмах, все аплодировали. Кому, черт возьми, они аплодируют? Справа в зале была куча людей, летели вспышки камер, шум диалогов.

– А вот и они! Наши герои, без которых ничего бы не вышло! – выкрикнул один из мужчин с микрофоном, указывая на Себастьяна и людей в халатах.

Себастьян подошел к Эндрю. Воцарилась тишина. Он очень застеснялся, поэтому немного наклонился к инженеру и шепотом спросил:

– Что, черт возьми, происходит, Энрдю?

Зал взорвался аплодисментами, свистами, в помещении стало настолько светло от вспышек, что мигрень снова ударила по вискам.

– Вы это слышали? – крикнул в микрофон мужчина в черном костюме, – он говорит, как настоящий человек! Как с чертовым приятелем!

Себастьян растерялся. Перед ним подняли зеркало, и он увидел себя. Увидел свои железные ноги, руки, покрытые чем-то, напоминающим силиконовую кожу, лицо. У него было лицо, но лишь часть его покрывала искусственная кожа, вместо рта было что-то напоминающее динамик, а задняя часть головы была открыта и полна механизмами. Мигрень усилилась, боль была невыносимой. Он упал на колени и быстро задышал. Хаос окутал его тело, смешиваясь с болью.

– Только что на наших глазах, – начал оратор, глядя в сторону десятков камер и вспышек, – по всей стране в прямом эфире нам продемонстрировали удачный, если это можно так назвать, эксперимент «Китайской комнаты». Эй, Роб, каково это – быть облапошенным? – выкрикнул оратор другому мужчине в синем костюме и передал ему микрофон.

– Да, уж, Брюс, это точно. Меня облапошили. Я действительно поверил в то, что говорю с настоящим человеком, хотя я неоднократно пытался выпытать его полное имя, и даже не получив его, я понимал, что человек, знающий свое имя, назвал бы его, но Себастьян не называл, просто ни в какую; оказалось, у него просто нету имени.

– И все равно ты поверил, что это человек?

– Да, причем без сомнений был убежден в этом. Это просто взрыв мозга! Это невероятно! Как вам такое удалось, Эндрю? – обратился Роб к инженеру, протягивая микрофон; тот взял.

– Как вы видите, система не идеальна. Нам удалось создать искусственный интеллект, способный самообучаться, удалось создать для него нервную систему – он способен осязать, испытывает боль. Вернее, он думает, что ее испытывает. Это мало чем отличается от нервной системы человека, однако объект, в отличие от человека, все еще не способен к самосознанию. Хаос, диссонанс – да, но нету страха. Отчасти поэтому психическое состояние нашего искусственного интеллекта столь шатко. Мы еще работаем над этим. Только взгляните на него – сейчас он поверить не может в то, что происходит.

– Вы что, не сказали ему, что он не человек?

– Конечно, нет, ведь тогда бы он не дал нам тех результатов, что мы имеем сейчас.

– А вам не кажется, что это неэтично? Ведь вы создали разумное существо, способное испытывать эмоции и боль! – выкрикнул голос из зала.

– Насчет того, этично это или нет, стоило рассуждать до того, как люди стали пытаться пробовать создать другое сознание.

– А что вы имели в виду, когда выражались, что система не идеальна?

– То, что мы еще далеки от создания настоящего прототипа, которого не отличить от человека. Посмотрите на него сейчас.

Себастьян стоял на четвереньках, хаотично издавая звуки, схожие с рыданием и воплями. В этот миг все стало таким очевидным: все упущенные моменты, подсказки, такие как комнаты, которые шли в неверном порядке только для него, и если отзеркалить их, то с другой стороны порядок был верен, это значит – проверяли его, а не он.

– Дело в том, – продолжал инженер, – что все наши попытки создать искусственный интеллект, имеющий собственное тело, порождали новые проблемы. Например психическое состояние объекта. Интеллект, способный самообучаться, ходить и говорить, вскоре, осознавая, что он машина, сходит с ума и становится бесполезным. Я поставлю в пример людей: природа породила самосознание, самосознание породило ужас и страх; чувствуя угрозу вокруг, именно благодаря этому люди развились такими, какими они являются сейчас. Но искусственный интеллект, обретя сознание, не обретает самосознания и чувствует лишь бессмысленность и когнитивные замыкания.

Зал зашептался.

– Уязвимость – вот условие нашего существования. Это как если бы люди сейчас научно могли доказать, что детерминизм – истина человеческого бытия. Что бы тогда случилось с нами? Половина человечества покончила бы с собой, а преступность бы выросла в разы.

Посмотрите на данный объект, – он снова указал на Себастьяна, – в его разуме гремит настоящая буря и шок, для него осознание реальности равносильно осознанию нами некоего божественного, что определенно свело бы нас с ума, практически как если бы детерминизм был доказанной истиной и мы бы это осознали. – Зал охнул, инженер продолжил. – Еще до эксперимента, во время когнитивных задач, объект испытывал нечто схожее с головной болью у людей. Это говорит о рождении в его сознании области, отвечающей за личностную структуру и психическое состояние, и это связалось с системой ощущений, а это значит, что в будущем нам придется или вручную программировать их интеллект, поставить рамки, ограничения, однако тогда это будет уже не искусственный интеллект, а всего лишь запрограммированный робот, или же создать новое разумное существо. Впрочем, равно как у людей, ведь психологи убеждены, что человек движется в определенных рамках мотиваций.

Посмотрите на объект сейчас: на ваших глазах вполне адекватное сознание сходит с ума, в его сознании меркнет свет, и это говорит о том, что мы близки, как никогда, к созданию живого разума, – он посмотрел на своих коллег, – отключите его.

Себастьян протянул ладони, стоя на коленях, и завопил:

– Нет!