Читать книгу Квантовый переход. Книга первая. Техническая сингулярность - Александр Петрович Тюрин, Александр Петрович Шуравин, Александр Петрович Горюшкин - Страница 6

– У тебя все готово? – спросил Леонид, заглянув в комнатку, где сидели Максим, Женя и Ильяс.

– Ты у кого спрашиваешь? – задал вопрос Ильяс.

– У Макса.

– Да. Все готово, но я решил еще раз все перепроверить, прогнать все тесты, смоделировать кейсы, – ответил тот.

– Хорошо. Когда закончишь, зайди ко мне, привезли оборудование, надо бы его посмотреть.

Начальник ушел, программисты продолжили неторопливо делать свою работу. Максим одним глазом наблюдал, как компьютер отщелкивает процент выполнения задачи, а вторым косился на Ильяса, все еще не привыкнув к тому, что, несмотря на «злой взгляд» сам по себе обладатель таких странных глаз человек довольно добродушный.

– Что, никак не дают покоя мои глаза? – усмехнулся тот.

– У тебя действительно странный взгляд, – сказал Максим.

– Ничего, скоро перестанешь обращать внимание. Вот Джон тоже первое время на меня косился, потом привык…

– Да не Джон, а Женя. Сколько раз тебе говорить!

– Да ладно, не обижайся….

Максим сделал несколько исправлений, запустил программу, понаблюдал. Сделал еще пару манипуляций, потом отправился в кабинет директора.

– Ага, готов к историческому моменту… – улыбнулся тот, – тогда пошли в подвал. Ты был уже у нас в подвале?

– Нет, Катя не показывала. Спортзал, бассейна показала, подвал нет.

– Ну вот, сейчас увидишь. Там мы проводим опасные эксперименты.

– Опасные? – с едва заметной ноткой волнения спросил программист, когда они спускались вниз по лестнице, которая местами была отремонтирована, ступени и стены свежеокрашены и пахнущие ремонтом, а местами старые, пыльные, с отбитыми краями.

– Ну, скажем так, адронный коллайдер мы не запускаем. Но если хотим отлаживать элементы искусственного интеллекта на изолированном от внешнего мира компьютере, делаем это именно там.

– Зачем? Разве не достаточно просто отключить от Интернета и от локальной сети?

– Поверь мне, лишние меры предосторожности в таком деле не помешают. Кстати, твою Синтию-2 мы тоже именно там будет запускать.

– Но к чему такая паранойя?

– Объясню чуть позже. Мы уже пришли.

Цокольный этаж оказался вполне себе в приличном состоянии. Недавно оштукатуренные стены, которые в некоторых местах уже были оклеены обоями с узорами в холодных синих и зеленых тонах, пол покрыт линолеумом, куча дверей. Большинство закрыты, но одна распахнута.

– 

Посторонитесь, – послышалось сзади.

Их обогнали двое мужчин в синих спецовках, которые тащили оборудование. Они внесли поклажу в ту самую раскрытую дверь и принялись устанавливать его. Леонид и Максим молча наблюдали за процессом. Все действие происходило в комнате, стены, пол и потолок в которой были обиты металлической фольгой. В помещении находилось множество компьютеров, представлявших собой шкафчик величиной с холодильник и соединенные друг с другом множеством разноцветных проводов. Еще тут был стол, на котором стояли три дисплея, в данный момент выключены. Вокруг них тоже были раскинуты толстые кабели. Рабочие копошились возле принесенного оборудования, ловко подсоединяя другу к другу многочисленные разъемы с огромным множеством контактов.

«Как хорошо, что я тут программист, а не системный администратор», – подумал Максим, а вслух спросил:

– Это дата-центр?

– Можно сказать и так, – ответил Леонид, – здесь собраны огромные вычислительные мощности. Сейчас нам установят блок из ультрасовременных многоядерных процессоров, и мы можем начать испытание.

Вскоре экраны замигали картинками. Получив подписанные акты, рабочие ушли, Леонид тоже покинул подвал, а Максим занялся установкой программного обеспечения. Чуть позже к нему присоединилась Анна – молодая рыжая женщина из отдела тестирования.

– Я приготовила мир, в котором будет жить твой искусственный интеллект, – сказала она, – вот смотри, это его схема. Она сделана в 3D. Физика похожа физику нашей Вселенной, но несколько упрощена, чтобы не тратить зря вычислительные мощности. Все будет выглядеть как игра.

На одном из экранов появилось трехмерное изображение лабиринта. Стены, пол, потолок выглядели довольно реалистично.

–Хорошая графика, – сделал комплемент Максим, зная, что это она писала дизайн, – текстуры очень качественно прорисованы.

Девушка ничего не ответила, только улыбнулась и повернула картинку. Затем она переместила фокус в огромный зал, где горели факелы. Они тоже были изображены достаточно натуралистично. В центре зала стояла обнаженная женщина с длинными золотистыми волосами. Она, правда, выглядела не так реалистично, и напоминала, скорее куклу, чем живого человека. Нарисованная девушка шевелилась. Она изредка поворачивала голову, делал шаг вперед и шаг назад. Иногда поднимала свои ладони и разглядывала их.

– Биология тоже упрощена, – прокомментировала Анна, – наша основная цель – ее разум, именно на его моделирование и пущены все вычислительные мощности. Экономим на всем несущественном.

– Может, оденем ее, – предложил программист.

– Зачем? – девушка удивленно нахмурила брови.

– Дык что-то как-то неловко.

– Да брось, – фыркнула Анна, – это же просто набор байтов, не более того, нечего стесняться….

– Не думаю, что платье отнимет много вычислительной мощности….

– Ну ладно, если ты так хочешь, пожалуйста.

Анна нажала на кнопку, и на игровом персонаже появилось длинное красное платье, которое ей определенно шло.

– Так лучше? – спросила девушка.

– Вполне.

– Ну что, загружаем сознание?

– Да.

Закипала работа. По инструкции полагалось весь обмен информацией с изолированным компьютером вести на специальных защищенных носителях. Поэтому ушло довольно много времени, прежде чем Максим скопировал все это на недавно привезенное оборудование. И вот, наконец, виртуальная кукла на экране монитора, можно сказать, обрела «душу». Она перестала делать однообразные механические движения и на некоторое время застыла в одной позе. Затем повернула голову, осмотрелась и удивленно захлопала глазами. Попыталась сделать шаг, но не смогла удержать равновесие и нелепо растянулась на полу. Анна издала сдавленный смешок.

– Ей же больно! – произнес Максим, – а тебе смешно….

– Больно? Да брось, это же просто цифры в компьютере…

Парень нажал на кнопку, и на экране появилось схематическое изображение мозга, очертаниями напоминающего человеческий. На нем то и дело вспыхивали и гасли множество огоньков.

– Вот смотри, активность в зоне осознания боли, – прокомментировал Максим.

– Это всего лишь математическая модель, Макс, – сказала коллега, – не стоит ее очеловечивать.

– Если так подумать, то и люди тоже просто наборы белковых молекул….

– Ну не скажи. У людей есть сознание. Душа, можно сказать.

Синтия-2, тем временем, неуклюже попыталась встать. Но у нее только получилось немного приподняться на локтях, а потом снова бухнуться на «землю».

– Почему ее тело такое слабое? – спросил Максим, – тоже упрощенная биология?

– Нет. С биологией все в порядке. Я тестировала. Это к тебе вопрос, почему не работает координация движений.

Максим стал внимательно разглядывать карту мозга.

– Действительно, нейросеть, ответственная за ходьбу, обучается довольно медленно, – согласился он.

Девушка на экране тем временем беспорядочно дрыгала ногами, руками и наконец, она поползла по-пластунски, как партизан во время войны.

– У нее что-то получается, – обрадовался программист.

– Рано еще об этом говорить, – сбавила его пыл Анна.

Тут пришел Леонид.

– Ну, как дела? – спросил он.

– Наш электронный младенец учиться ходить, – доложил Максим.

– Отлично! Рабочий день скоро заканчивается, так что переведи компьютер в режим сна, и пойдем на кухню попьем чайку, я расскажу тебе о том, к чему такие меры безопасности.

Сначала «мозговая» активность Синтии-2 затихла. Сама она при этом легла в расслабленной позе и закрыла глаза. Теперь можно было отключить основные компьютеры. Что Максим и сделал, а потом поднялся наверх.

– Ты смотрел фильм Терминатор? – спросил Леонид.

– Ну да, смотрел, – ответил Максим, – но это же просто фантастическое кино.

– Фантастика иногда может стать реальностью, – философски заметил босс, – несколько десятилетий назад возможность иметь доступ к огромный объемам информации из любой точки мира и беседовать друг с другом по видео – было фантастикой. А сейчас у нас есть Skype и Интернет.

– Так ты боишься, что Искусственный Интеллект поднимет бунт и нас всех убьет?

– Это слишком примитивное представление о том, что может произойти, если вдруг мы создадим нечто, что превзойдет нас по уровню интеллекта. Ты, конечно, очень умный, имеешь красный диплом и все такое, но, при всем уважении, со стратегическим мышлением у тебя туго. Синтия права. Тебе нужно научиться мыслить более глобально.

– В смысле?

– Ну, вот смотри. Представь себе, что у тебя есть умный робот, и ты ставишь ему задачу: «Сделай мне хорошо». Но не расшифровал ему, что ты имеешь в виду. И он интерпретировал это по-своему, а именно: усыпил тебя и сделал операцию – вживил в мозг электрод. В зону удовольствия. А когда ты очнулся, пустил ток. И тебе хорошо. Формально задача выполнена. Но ты же не этого хотел, верно?

– Значит, нужно просто правильно поставить задачу….

– А что значит «Правильно поставить задачу»? Расшифровать подробно понятие «сделать хорошо»? Задать ограничения?

– Ну да, например, сказать роботу, что нельзя производить хирургическое вмешательство.

– Тогда робот накормит тебя наркотиками. Тебе будет хорошо, и он бодро отрапортует о выполнении задачи.

– Хм, – Максим задумался.

– Да, действительно, ограничений придется вкладывать слишком много, – наконец сказал он, – Нельзя оказывать химическое воздействие на мой организм, еще что-то нельзя. И не дай Бог что-то забуду. Хотя… стоп. А как же три закона робототехники, придуманные Азимовым?

– Ну, хорошо. Робот не может причинить вред человеку. А что значит вред? Допустим, человеку потребовалась срочная операция на сердце. Но хирургическое вмешательство робот не может осуществить: вред же, повреждение тканей.

– Робот так же не может своим бездействием допустить, чтобы человек был причинен вред. То есть, он должен произвести операцию.

– А вот тут мы получаем конфликт мотиваций. Но, в принципе, разрешить данный конфликт мы можем сравнением, где больше вреда. Врачи, кстати, так и делают: оценивают риск от хирургического вмешательства и, исходя из опасности заболевания, выносят решение о том, показана ли операция. Да, искусственный интеллект может принимать решения по такой же методике. Но проблема не в этом. А в том, что умная машина может принять решение, которое нас не устроит. И последствия могут быть довольно плачевными.

– Ну, значит нужно тщательно тестировать. Выявить все возможные подводные камни.

– Чем мы, собственно и занимается….

– Это-то я понимаю. Но не понимаю одного: зачем держать Синтию-2 в подвале обитым фольгой? Как она может вырваться из отключенного от сети компьютера?

– А ты в курсе, что специальным оборудованием можно снять изображение с мониторов, находящихся за стеной?

– А… так ты опасаешься шпионов? … Но я все равно не вижу смысла обивать комнату фольгой, если любой сотрудник запросто может вынести информацию на флешке.

Леонид улыбнулся.

– Нет, вовсе не шпионов я опасаюсь, – сказал он, – вот представь себе, что искусственный интеллект исследует виртуальное пространство, в котором он живет. Как ты думаешь, до чего он может дойти, если применит научный метод?

– Сначала он откроет все законы виртуального мира. Возможно, доберется до «первокирпичиков». Захочет заглянуть, что у них «внутри». Естественно не сможет, так как внутри ничего нет.

– И что будет дальше? К каким выводам он придет?

– Ну, возможно, догадается, что он в «матрице».

– Вот именно. А может и не догадается, а будет думать, что он просто еще не все изучил и будет пытаться дальше изучать. Но не суть. А себя он будет изучать, как ты думаешь?

– Думаю, да.

– И к чему придет? Сможет он догадаться, что он компьютерная программа?

– Не представляю, как он может об этом догадаться. Но исключать такую возможность нельзя.

– Вот именно.

Максим посмотрел на начальника непонимающим взглядом и спросил:

– Ну хорошо, догадалась наша Синтия, что она всего лишь программа? А дальше-то что?

– А ты подумай….

– Ну, может быть, попробует переписать свой код. Правда, для этого ей придется взломать компьютер, на котором она запущена. Что само по себе уже несколько фантастично.

– Тем не менее, мы не можем полностью отрицать подобный исход.

– Ну хорошо, пусть даже мы примем и это фантастическое допущение. Но какую опасность может представлять программа, запущенная на изолированном от всех сетей компьютере? Разве что если она захочет самоубиться, отформатировав винчестер.

– Как вариант, искусственный интеллект может попытаться влиять на другие компьютеры, посредством наведения радиопомех в проводах.

– Ну это уже вообще сверх фантастика какая-то! – воскликнул программист, – может, тогда стоит и шапочку из фольги надеть, а то вдруг она на мои мозги начнет влиять…

Леонид усмехнулся.

– Ладно, – сказал он, – время покажет, на что способен искусственный интеллект. Прими пока мои слова как пищу для размышлений….