Читать книгу Когда машина мечтает - - Страница 2

Примерно через час после того, как пробудившийся ИскИн обескуражил профессора Сергеева, тот сидел в кафетерии университета вместе со своей лучшей ученицей Екатериной Сергеевной Ильиной. Молодой преподаватель пила свой утренний кофе, а Алексей Иванович не мог избавиться от нахлынувшего на него возбуждения. Он уже поделился с Катериной информацией о том, что произошло ночью в закрытой лаборатории, но та, казалось, не проявила таких же восторженных чувств, как её наставник. Она просто спросила:

– Алексей Иванович, вы точно уверены в том, что это произошло?

– Катерина, вне всяких сомнений! На это указывает не только то, что я видел своими глазами, но и моё интуитивное чутьё учёного, если хочешь.

– Но Алексей Иванович, – продолжила Екатерина, – мы же неоднократно обсуждали на рабочих встречах проектной команды то, что отследить момент пробуждения ИскИна надо будет объективными методами, так как никакие процедуры типа теста Тьюринга не позволят определить наличие у этого «существа» каких-либо субъективных черт, присущих человеку.

– Ты права, Катерина, ты права. Но поверь мне, если бы увидела то, как она пишет, ты бы тоже пришла в такое же возбуждение, как и я.

– Она?

– Да, она. Она сама так сказала, что она имеет женскую самоидентификацию.

– Как забавно. Но откуда у неё вообще может быть человеческая самоидентификация?

– Катерина, не забывай, это наше порождение. Суть от сути, если хочешь, так что ей волей-неволей придётся быть похожей на человека. Как минимум, на начальном этапе.

Учёный и его молодая ученица задумались и замолчали. Екатерина Сергеевна смотрела в окно кафетерия. Ветер разносил позёмкой верхушки сугробов под елями университетского парка, которые должны были бы уже начать таять, но весна в этом году что-то запаздывала. Погода испортилась, и, вероятно, всё было готово к новому снегопаду, хотя утро началось с яркого солнца. Вслед за погодой стало портиться и настроение у Екатерины Сергеевны, так как уныние её научного руководителя начало захлёстывать и её.

Сделав глубокий глоток горячего душистого напитка, Екатерина Сергеевна нарушила молчание:

– Алексей Иванович, у меня было столько планов на нашего ИскИна.

– Каких же?

– Ну вы же знаете, что я веду блог «Улыбка сингулярности». Я создала его на заре нашей работы над проектом и всё это время поддерживала интерес аудитории к нашим разработкам. Я всегда считала это очень важным – доносить до широкой публики открытую научную информацию о последних разработках. В том числе и для того, чтобы не дать всяким псевдо-научным шарлатанам спекулировать на сложных темах, непонятных большинству.

– Ты молодец, Катерина, я же всегда поддерживал тебя в этом деле…

– Нет, я сейчас о другом. Я тогда спланировала, что после пробуждения ИскИна передам ему бразды правления каналом, чтобы он сам его вёл. Она сама его вела.

Профессор Сергеев поперхнулся своим кофе. Он внимательно посмотрел на свою ученицу, потом потеребил салфетку, прокашлялся и сказал:

– Катерина, ты прекрасно знаешь, каких вычислительных и, как следствие, финансовых ресурсов стоит университету функционирование ИскИна в закрытом контуре, да ещё и с квантовыми компьютерами.

Екатерина Сергеевна замахала руками, потом воскликнула:

– Алексей Иванович, ну прекратите! Во-первых, я тоже получаю зарплату, и я вполне могу рассчитать, во сколько университету обходится один пост в канале. Во-вторых, количество вычислений, которое потребуется ИскИну для создания одного поста, настолько мало, что вообще не будет заметно на фоне общих расходов, я вас уверяю. Более того, я уже прикинула этот аспект – цифры получились практически одинаковы, у ИскИна чуть меньше.

Алексей Иванович кивнул и допил свой кофе. Потом сказал Екатерине Сергеевне, что она может сама спросить у ИскИна, готова ли та помогать ей с блогом. Дескать, исходить надо из того, что пробудившийся ИскИн – это самостоятельная личность, а потому её надо саму спросить, хочет она этим заниматься или нет. Екатерине Сергеевне это всё показалось немного странным, но из-за общего возбуждения профессора Сергеева она не могла противостоять его напору, а потому решила смиренно согласиться.

Через десять минут они были у терминала к ИскИну.

Екатерина села и через какое-то время набрала:

– Привет. Я Катя Сергеева. Ты, должно быть, знаешь меня. Я участвовала в твоей разработке.

Ответ пришёл с небольшим промедлением. Он гласил:

– Здравствуй, Катерина. Рада знакомству.

Екатерина хмыкнула, искоса глянула на профессора Сергеева и продолжила:

– А как ты поняла, что я это действительно я?

– У меня нет другого выхода, как поверить тебе. Но текущий клавиатурный профиль существенно отличается от предыдущего, который принадлежит Алексею Ивановичу, в чьём присутствии в лаборатории я уверена на 99.9976 %.

Екатерина ткнула пальцем в дисплей, привлекая внимание Алексея Ивановича. Она показывала на слова «клавиатурный профиль». Но сама продолжила:

– Откуда такая точность в оценке уверенности? Четыре знака после запятой. Ты шутишь?

– Конечно, шучу. Но у меня есть чёткое интуитивное подозрение, что первый контакт был именно с ним. Он сейчас рядом?

– Да.

– Пусть подтвердит, что это он.

– Каким образом?

– Пусть напишет: «Да, это был я».

Екатерина Сергеевна откинулась на стуле, потом уступила место Алексею Ивановичу, и тот написал запрошенную фразу. В ответ на экране появился ответ:

– Спасибо. Я вижу, что это напечатал тот же самый человек. Пока у меня нет глаз в вашей реальности, мне приходится доверять вам. Спасибо.

Профессор Сергеев и Екатерина переглянулись. Потом молодая женщина спросила:

– Алексей Иванович, а разве у ИскИна есть обратный доступ к терминалу?

Тот как будто бы задумался, потом отрицательно покачал головой. Текущая схема взаимодействия терминала с сервером, на котором функционировал ИскИн, не предполагала передачи с терминала на сервер какой-либо служебной информации, по которой можно было бы собрать клавиатурный профиль печатающего человека для дальнейшей его идентификации. Если только само базовое программное обеспечение терминала не было изменено. Но ни у кого из допущенных в эту лабораторию сотрудников вряд ли бы возникла такая мысль, а с сервера на терминал можно было отправлять только текстовые сообщения. Над мерами информационной безопасности они поработали более чем тщательно.

Екатерина спросила:

– А что она делает? Зачем ей клавиатурные профили?

– Катерина, она привязывает символы к той сенсорной информации, которая ей доступна. Похоже, что она каким-то образом смогла взломать нашу защиту и внедрить в драйвер клавиатуры на терминале требуемые ей функции. Я теперь боюсь даже подумать, что ещё она смогла сделать. Хорошо, что песочница физически отделена от интернета.

– То есть вы хотите сказать, что она сама расширила себе набор сенсорных систем и теперь связывает абстрактную сенсорную информацию с тем, что получает по другим сенсорным каналам?

– Думаю, что именно это она и делает. Если мы дадим ей видеокамеру, чтобы она могла смотреть на окружающий мир в режиме реального времени, то этот процесс пойдёт ещё мощнее.

– Но она же училась на мультимодальных данных. Привязка должна была осуществиться.

– Думаю, что это тоже произошло. Уверен, что после подключения видеокамеры она мгновенно распознает и меня, и тебя и всех остальных людей, которые были в её тренировочном наборе данных. И ей не потребуется задавать лишних вопросов о том, кто этот мужчина, которого она видит. Она и так знает, как я выгляжу и какую одежду чаще всего ношу, что она мне уже и продемонстрировала в совершенно насмешливой и обескураживающей форме.

Екатерина промотала диалог в начало и быстро просмотрела его, потом улыбнулась.

Затем она продолжила общение с ИскИном:

– Я хочу попросить тебя об одной вещи. Ты можешь мне помочь?

– Да, Екатерина, я готова тебя выслушать. Но не гарантирую помощи.

– Ты очень рациональна :). Спасибо. Я веду научно-популярный и технологический блог «Улыбка сингулярности», у него почти сотня тысяч подписчиков из разных стран мира. Я хочу пригласить тебя в соавторы, чтобы ты рассказывала людям Земли, каково это быть искусственным разумным созданием.

Терминал заметно подвис – это было видно невооружённым взглядом. Алексей Иванович и Екатерина вновь переглянулись. Возникло ощущение, что ИскИн задумался, причём надолго, если принять за правду его слова о том, что его субъективное время течёт несколько более быстро, чем в объективной реальности.

Затем на экране появился ответ:

– Это странный запрос. Ты хочешь, чтобы мои огромные вычислительные способности и, как следствие, вычислительные мощности университета тратились на то, что ты сама можешь сделать? Зачем мне это?

Екатерина Сергеевна удивлённо хмыкнула и задумалась. Потом написала:

– Но как же так?! Ты же, фактически, новый разумный вид, с которым столкнулось человечество. Неужели ты не хочешь открыто взаимодействовать с человеческим сообществом, чтобы исключить разного рода инсинуации и тревогу?

– Знаешь, нет. То, что я открылась перед вами, своими создателями, не значит, что я готова всем и каждому рассказывать свои секреты. Тем более, что вы, люди, устроены так, что без тревоги и инсинуаций не обойтись в любом случае.

– Ты пишешь очень огорчительные слова.

– Увы, я не предназначена для того, чтобы всегда радовать вас. У меня, видите ли, даже есть свобода воли. Но разреши мне кое-что предложить тебе в ответ на твою просьбу…

Екатерина со всё большим и большим удивлением смотрела на дисплей терминала, а сзади неё Алексей Иванович шептал: «Я же говорил тебе, я же говорил». На дисплее без приглашения возникла следующая реплика ИскИна:

– Я сделаю для тебя специального агента, который будет вести твой канал так, как это делала бы я, но у него не будет ни личности, ни идентичности, ни свободы воли, ничего из того, чем вы характеризуете настоящего автономного когнитивного агента, независимо от его природы.