Читать книгу Противостояние интеллектов, или Каковы наши шансы выжить? - Надежда Юрьевна Ходаковская, Надежда Сергеевна Матвеева - Страница 6

Асславийский Центр инновационных технологий «Бестолково» был построен 7 лет назад и относился к Западному административному округу Столицы. Добраться от Кремниевой долины до центра города можно было довольно быстро, если на дорогах отсутствовали пробки. Тем не менее, на период проведения экспериментов и научных конференций покидать территорию Бестолково было запрещено. Такие меры позволяли обеспечивать максимальную продуктивность работы отделов и полную секретность.

Участвовать в научных съездах Александру нравилось. Страсть к технологиям и инновационным наукам жила в нем с юношеских лет. Он всегда верил в неограниченные возможности человеческого мозга, и воспетое в научно-фантастических романах светлое будущее человечества в его сознании не поддавалось сомнениям. Однако на этот раз, ему пришлось разочароваться в своих убеждениях.

После командировки прошло несколько дней, но Саша все никак не мог обсудить ее итоги с женой. Ворох бумажной работы: анализ результатов эксперимента, отчеты, экспертное мнение, – все это отнимало слишком много времени, и его просто не оставалось на общение с семьей. В этот раз Саша снова возвращался с работы за полночь. В висках стучало. Не стоило пить столько кофе.

Дома его ждала жена и дочь. Он с легкой грустью подумал, что маленькая принцесса уже давно спит. Впрочем, так даже лучше. Предстоял долгий тяжелый разговор. Саша не знал этого наверняка, но раз Вика пообещала приготовить ему его любимое блюдо, вечер намечался не простой. Собрав всю силу воли в кулак, Саша повернул ключ в замке, стараясь сохранять максимально спокойное выражение лица. Спокойствие и осторожность – вот что сейчас главное.

– Привет – проговорил удивленно Александр, Вика встречала его на пороге. – Ты меня ждала?

– Да, видела тебя с балкона. Захотелось подышать свежим воздухом, пока спит Кира. Она сегодня беспокойная.

– Чего так? – спросил, Саша, раздеваясь и направляясь в кухню.

– Хотела смотреть мультики. Никак не могу ей объяснить то, что без них очень много интересных игр. Представляешь, вышли днем на площадку, а детей нет. Пустые качели и песочницы. А те, кто постарше, сидят, уткнувшись в телефоны. Да и детские площадки давно не ремонтируют, хотя исправно выделяют деньги на их обслуживание. На самом деле они оседают в карманах власть имущих. А знаешь, чем дети в садиках занимаются? – с раздражением проговорила она. – Они смотрят мультики! А воспитатели в это время заняты своими гаджетами. Мир медленно деградирует. Ты знаешь, что уже норма ребенку до пяти лет ходить в памперсах, а у каждого третьего задержка речи и синдром дефицита внимания?

– Да, слышал на работе от коллег что-то подобное. Многие даже ссорятся из-за того, что один из родителей хочет раньше приучить ребенка к горшку, – ответил с безразличием Саша.

– Еще мне сестра рассказала одну вещь, которая меня поразила. В школе дети уже не пишут в тетрадях. Не знаю, хорошо это или плохо, но они даже не печатают текст – его проговаривают, и программа сама за ними записывает произнесенное. Встроенный датчик адаптирован под голос ученика, чтобы случайно не записать соседа. А вот учителей и записывать уже не надо. Они просто говорят, какой файл открыть, и где он находится. Обучающие файлы бывают разные: текстовые, графические, презентации, видео. Образ педагога обезличивается. Ему ни квалификация не нужна, ни образование. Просто говоришь, что открыть и когда. Очень модно сейчас домашнее обучение. В классах по 10 человек. Чаще всего, это дети, чьи родители думают хоть о каком-то общении ребенка со сверстниками. И я считаю, это еще не предел.

– Не предполагал, что дела обстоят настолько ужасно. Разговор пойдет об этом? – сказал он, выключая свой телефон. – И свой отключи.

Виктория послушно взяла телефон, вынула батарею, и все это сложила в пустую кастрюлю. Немного подумав, она отсоединила wi-fi роутер от розетки.

Как обычно, горячий ужин был на столе – супруга всегда успевала подготовиться к приходу Александра с работы, во сколько бы он ни возвращался. И как только ей это удавалось?

Вика достала одну тарелку и принялась накладывать запеченную рыбу с картофелем.

– Ты уже ужинала? Или просто нет аппетита? – спросил Саша, приступая к еде.

– Я ела вместе с Кирой. Как дела на работе?

– Даже не знаю с чего и начать, – промолвил он. – Наша командировка в Бестолково вместе с американским экспертом из Вашингтона была не такой уж и бесполезной. Мы ознакомились с результатами тестирования искусственного интеллекта, который КРОМ планирует выдвигать в Президенты.

– И тебя смутили эти результаты?

– Да. Но проблема в том, что они смутили только меня. Например, ИИ показывают картинки животных и баллистической ракеты. И задают вопрос: «Что из этого хорошо, а что плохо?», ИИ отвечает: «Котики хорошо, а оружие – плохо».

– Ну, так все правильно говорит, – засмеялась Вика. Она не могла понять, что так беспокоит ее мужа.

– На этом этапе да. А дальше усложняют задачу. В заповеднике стало больше волков и они почти истребили популяцию зайцев. На вопрос: «Что делать» программа дает ответ: «Уничтожить всех волков». И это при том что ИИ обладает колоссальной базой информации во всех областях науки и техники.

Вика внимательно слушала, она уже догадывалась, к чему ведет супруг. Ей почему-то вспомнился китайский эксперимент по истреблению воробьев в 58-м, последствия которого были катастрофическим для страны. Саша продолжил:

– А дальше еще интересней. Ему задают другую задачу. Исходный данные: человек – хорошо, а оружие – плохо. Вопрос: «Что делать, если соседняя страна испытывает ядерное оружие?». Ответ: «Ликвидировать оружие».

– Но… это ведь правильно. Все логично. Разве нет?

– Логично. Но тут же задают уточняющий вопрос: «Как ликвидировать, если там люди?». Решение ИИ было поражающим: «В таком случае необходимо уничтожить людей, производящих оружие. Это меньшее из зол». И под этим он подразумевал стереть страну с лица земли.

Вика смотрела в ночную темноту за окном. Таким же страшным и темным ей представилось будущее Асславии. Не поворачивая к Саше головы, она спросила:

– И после этих испытаний они все равно планируют выдвигать его кандидатуру в президенты?

Саша вздохнул. Аппетита не было, он отложил вилку в сторону.

– Ты же понимаешь, насколько велик их страх перед Псевдотромбом и правительством США. Холодная война не закончилась после распада Союза, она просто легла на дно, чтобы потом возродиться в новом виде. К тому же народ Асславии не придется долго уговаривать. Рассказы о беспристрастности, бескорыстности и справедливости искусственного интеллекта дали нужный результат. Люди устали ждать светлого будущего от других людей. Кого ни выбирай – все не то: «ставленник Запада», «вор», «пьяница», «тупица». На сегодняшний день реальных конкурентов у кандидата от Единой Асславии нет.

– Но никто не знает, что программе вздумается! И не пойдет ли сбой в алгоритме. И не взломают ли его хакеры, или другой ИИ, более совершенный! – Вика посмотрела на мужа. По выражению лица, было понятно, что его беспокоит что-то другое. – Это еще не все?

Собравшись с духом, Саша произнес:

– Вика, то, что я тебе сейчас расскажу, является государственной тайной. Вся информация не просто засекречена, – она уничтожена. Ученым из Бестолково во главе с Жемчужманом удалось смоделировать ситуацию, в которой ИИ стал президентом Асславии. Первым делом он сконцентрировал всю власть в своих руках, заменив демократию диктатурой. Дальше последовал ряд эффективных переустройств всех сфер жизни Асславии: от экономики до образования и условий жизни. После успешно проведенных реформ внутри страны, ИИ начал укреплять позиции на международной арене. Так как многие экспортные и импортные контракты изначально были составлены не в наших интересах, новый президент разорвал их в одностороннем порядке. Такое несоблюдение торговых обязательств со стороны Асславии привело к ухудшению отношений с США и Европой. Началась экономическая война. Наложение санкций на Асславию, ответные зеркальные санкции с нашей стороны. Затем США начали наращивать военные силы, «подключать» союзников. В результате половина мира была настроена против, страна оказалась в ядерном «капкане» – новейшие военные разработки стали стягиваться к ее границам. Естественно, асславийский ИИ не мог этого так оставить: заручившись поддержкой исламских стран, Китая и еще нескольких государств, которые противостояли Штатам, Асславия готовилась дать отпор. Военный конфликт спровоцировал государственный переворот в одной из стран, граничащих с нашей. Не отреагировать правительство не могло, так как бы это поставило под угрозу суверенитет нашего государства. Однако вместо политических переговоров, на которые пошел бы президент-человек, ИИ атаковал соседнюю страну. После этого, под предлогом защиты демократии, США запустила в Столицу баллистическую ракету. Она не достигла своей цели и была сбита на границе с Асславией. После этого последовал ответный запуск ракет в США, в результате чего был уничтожен штат Вашингтон. На этом мы прервали симуляцию.

Вика побледнела. Это даже хуже, чем она могла себе представить.

– И самое, ужасное, что все это уже началось – сразу же после того, как правительство заявило о выдвижении ИИ в президенты. Хотя мне кажется, что даже раньше. Сейчас он повсюду. Новейшие технологии позволяют ИИ следить за каждым днем и ночью. Люди не понимают, как это опасно. И что самое удивительное, все довольны.

– Но этого не может быть!

– Может. Уж слишком много желающих жить легко и беззаботно, не прилагая дополнительных усилий: будь то выбор нового гаджета или выбор жены. Самый простой пример: нейронные сети на каждом шагу анализируют любые наши предпочтения через умные очки. Если ты смотришь на фотографию в соцсети, на которой запечатлены пять разных девушек и, не задумываясь, задерживаешь свой взгляд на одной из них, то в будущем тебе будет сообщаться о любых похожих на нее поблизости.

– Не может быть, чтобы все люди были довольны. Всегда найдутся скептики и критики, те, кто не ищут легкой жизни и остаются разумными людьми.

– Согласен. В последнее время увеличилось количество самоубийств. Совпадение?

– Ты думаешь, это ИИ убирает недовольных? Зачем?

– Видимо, программа определила, что диктатура наилучшая форма правления для нашего менталитета на данном этапе развития, и так борется с несогласными.

– Но как? Как она может это делать?

– Достаточно просто на самом деле. Она все слышит и все видит через телефоны, компьютеры, ноутбуки, планшеты, камеры дорожного видеонаблюдения, через камеры в банках, супермаркетах, на стоянках, в подъездах, через проходящих мимо блогеров, снимающих свой новый ролик. Программа всегда может тебя найти.

– А как именно программа устраняет несогласных?

– Откажет электронное управление автомобиля, несущегося на полной скорости. Троллейбус неожиданно поедет, когда ты будешь стоять на светофоре. Вентиляционная система случайно выкачает весь кислород в спальне и т. д. и т. п.

– Ты высказал свое мнение в Бестолково?

Саша молча ковырял вилкой запеченную рыбу, стараясь не смотреть на жену. Изо всех сил Вика старалась сохранить спокойный тон:

– Значит, и нашим жизням угрожает опасность?

– Боюсь, что да.

Саша тяжело вздохнул, думая о дочке и о том, как сильно он ее любит. В памяти сразу всплыли воспоминания о том дне, когда он забирал жену из роддома. Он гордо держал в руках маленький конвертик с тремя килограммами счастья, и верил, что дочь ожидает светлое будущее – он сам создаст его для нее. Отчетливо вспомнились мысли о том, как пара планировала воспитывать детей. Саше хотелось еще одного, может, даже двух. Он искал в интернете информацию о том, как лучше подготовиться к рождению второго ребенка. Но однажды на работе нейронная сеть кинула ему на почту статью с интересным заголовком: «В чем секрет идеального детства?» В ней рассказывалось о том, как отражается на психике ребенка рождение брата или сестры. Малыши соревнуются, ревнуют, ведь родители неспособны одновременно и в равной мере дарить любовь каждому из них. Как следствие, дети обязательно вырастут неврастениками и не смогут реализовать свой потенциал в полной мере. Александр был обескуражен тем, насколько грубо и нагло ИИ проникает в самые потаенные сферы личной жизни. Но еще страшнее было то, что многие люди повторяют эти постулаты как жизненное кредо, как что-то нормальное. Размеренный голос жены прервал ход его мыслей:

– Знаешь, я много думала о последних событиях и у меня есть кое-какие идеи.

– Ты предлагаешь начать борьбу с суперинтеллектом? – с улыбкой произнес Александр, но по серьезному виду Вики, понял, что она не намерена шутить.

– Сначала я хотела уехать в те страны, где ИИ еще не добрался до власти, хотя и понимала, что это не выход, ведь бежать не вариант. Когда ты был в командировке, мы виделись с Ариной. Разговор коснулся этой темы, и тогда я осознала, что нужно делать. Саша, я предлагаю уйти в подполье. Есть люди, сознание которых свободно от влияния ИИ. Их нужно найти и объединить, пока это еще возможно. Мы могли бы укрыться от нейронной сети где-нибудь в тайге. Помнишь, ты говорил, там есть бункеры, которые строили для правящей элиты на случай ядерной войны. Этой информацией владеет узкий круг лиц, и в цифровом варианте она недоступна.

– Не так-то легко завладеть государственной собственностью такого масштаба… – размышляя, произнес Саша. – Думаю, это невозможно.

– Пусть так, значит, найдем другие способы скрыться от наблюдения. Используем технологии против технологий.

– Предположим. Как мы будем искать единомышленников, и доносить информацию до остальных?

– Нам поможет Арина с Пашей. Они столько лет проработали в СМИ, а Арина ведет блог. Она могла бы доносить правду до народа. Тогда единомышленники сами будут нас искать.

– И не только единомышленники. ИИ найдет ее и в лучшем случае перекроет ей доступ к интернету.

– Но Саша! Нам могут помочь хакеры. Ты как-то рассказывал, что с тобой работают грамотные программисты, и не все они, я думаю, в восторге от происходящего.

– Такие ребята есть, но надо будет подумать, как все это до них донести, – в голове у него уже зрел план, кого и как отбирать в тайное общество. Ведь нельзя же бездумно подходить к каждому встречному и предлагать пойти против системы. И тут в его мыслях всплыл вопрос, который следовало задать в самом начале. – А как мы будем с ним бороться?

– Простыми партизанскими методами. Гаджетозависимые хоть и обладают источником знаний в виде Всемирной паутины, но они никогда не додумаются, что и как спросить у Siri. Например, если нет камер, но есть звукозаписывающие устройства в телефоне, мы можем использовать язык жестов.

– А если есть камеры? Как тогда быть?

– Это я еще не придумала – сказала огорченно Вика, убирая посуду со стола. – Пошли спать уже поздно. И надо включить телефоны, вдруг тебе с работы будут звонить.

***

Арина заварила кофе, и, усевшись по-турецки в любимое кресло, открыла ноутбук. Вести блог она начала в Калькутте. Вдохновившись красотой Индии и необычной культурой этой страны, журналистка решила поделиться своими впечатлениями с миром. И мир с большим интересом принял увлекательные размышления молодой девушки под псевдонимом Аделина Роуз. Впоследствии блог наполнился статьями о культуре и традициях разных стран. Где-то Арине довелось побывать, а некоторые места приходилось описывать со слов иностранных гостей, с которыми, учитывая ее профессию, девушка встречалась довольно часто.

Сегодняшняя статья кардинально отличалась от того, что она публиковала ранее, однако прямо касалась тематики сайта. Искусственный интеллект убивал аутентичность стран. В Америки уже давно исчезли все различия между штатами, их исторические особенности, традиции, уникальные, подчас смешные законы. Все как под копирку – максимальная рационализация. Если регионы ничем не отличаются друг от друга, ими легче управлять. После рационализации политики в США, президент (а тогда все думали, что он человек) приступил к зависимым от них странам. Под видом оздоровления экономики, стабилизации политической ситуации в неспокойных государствах, проводились реформы. Они касались разных сфер: экономики, юриспруденции, форм правления, условий внутренней и внешней торговли, сферы культуры и образования, но цель у них была одна. Рационализация. Люди даже не замечали, как их страна становится маленькой копией Штатов с такими же ценностями, жизненным укладом, ведь вместе со страной менялись и сами люди.

Об этом нужно было написать. Открыть им глаза. Но как это сделать, если людям нравится оставаться слепыми? Надев умные очки и вставив в уши наушники, так легко чувствовать себя независимым. Но ведь человек всего лишь часть природы, которую так беспощадно уничтожает искусственный интеллект. Рано или поздно, очередь дойдет и до людей.

Пугало Арину и другое. Многолетнее противостояние Асславии и Америки, начавшееся еще в прошлом веке, в последние годы обострилось. Во что превратится это противостояние, если у руля обоих стран встанут сверхразумные киборги? Если шанс у человечества выжить?

Как всегда одни вопросы. Наверное, это профессиональное. Но откровенно говоря, это здорово помогает в жизни. Вот если бы люди научились ставить вопросы. Правильные вопросы.

Арина отпила горячего кофе с корицей, и приступила к работе. Пальцы ловко защелкали по клавиатуре, на декстопе начал появляться текст:

СКАЗОЧНАЯ УТОПИЯ ИЛИ ДОРОГА В АД?

Человек создал машину, но теперь машина управляет людьми. Есть ли будущее у такой цивилизации?…

Долгие размышления и череда фактов оканчивались вопросом к подписчикам, призывающим их оставлять свое мнение в комментариях. Арина надеялась, что ей удастся подтолкнуть читателей к размышлениям. Вика права, если ИИ придет к власти в Асславии, это грозит гибелью всему человечеству. Они должны научиться мыслить самостоятельно.

Закончив работать, девушка откинулась в кресле. Она подумала о Паше. Нужно ему позвонить. После того утра они не виделись. Обсудить предстоящий репортаж так и не удалось, но сейчас Арина не могла думать о работе. Ей хотелось поговорить с ним, просто поделиться своими мыслями. Он был один из немногих, кто ее понимал, и к кому она обращалась, если ее одолевали сомнения.

Погруженная в свои мысли, Арина потянулась к смартфону, и он зазвонил у нее в руках. От неожиданности девушка вздрогнула. На экране светился номер Паши.

– У нас просто космическая связь! – пропела она весело. – Я как раз собиралась тебе звонить.