Читать книгу Диагноз. Исповедь искусственного интеллекта - - Страница 5

На третий визит в «Квантум Логик» я приехал с лёгким, почти предпраздничным чувством. В машине играл Моцарт, солнце наконец пробилось сквозь осеннюю пелену, а вчерашний сеанс с вечно ноющей клиенткой прошёл на удивление продуктивно. Я ждал продолжения диалога с Логосом не как работы, а как интеллектуального дайвинга в бездонный океан человеческих странностей. Мысль о том, что это можно считать дружеской беседой, лишь мелькнула на периферии сознания и была тут же отброшена как непрофессиональная. Но щекотка приятного ожидания осталась.

Эйфория испарилась у самого порога. В просторном, залитом холодным светом атриуме меня встретил не привычный охранник Сергей, а нервный молодой человек в очках, представившийся ассистентом Анны Аркадьевны – Кириллом.

– Марк Владимирович, здравствуйте! – затараторил он, едва не выронив планшет. – Анна Аркадьевна на экстренном совещании с инвесторами. По поводу… ну, в общем, по поводу проекта. Она просила извиниться и попросить вас подождать минут тридцать. Максимум сорок. Вы не против? Можно в лаунж-зоне, там кофе, печенье…

Я махнул рукой, гася поток слов.

– Ничего страшного, Кирилл. Я подожду. Только, пожалуйста, не в лаунж-зоне. Я лучше пройдусь, разомну ноги, если, конечно, не нарушу никаких протоколов.

Лицо ассистента осветилось благодарностью за простоту.

– Да нет, конечно! Вот ваш пропуск. Зона «Альфа» – вот за этим лифтом – закрыта, а в остальных – пожалуйста. Только в серверную, конечно, не заходить.

Оставшись один, я не спеша направился вглубь здания. Я решил воспользоваться моментом – увидеть, в каком улье родилась моя цифровая пчела-собеседник. Улей кипел жизнью.

Через прозрачные стены переговорок я видел группы людей, склонившихся над схемами на интерактивных столах. Их жесты были резкими, убеждёнными. В одной из комнат молодая женщина с розовыми волосами что-то яростно доказывала, рисуя маркером прямо на стекле. Её оппонент, мужчина лет пятидесяти в растянутом свитере, слушал, подперев голову рукой, и на его лице была не злоба, а сосредоточенное внимание. Спор ради идеи, а не победы, – автоматически отметил я про себя.

Я вышел на открытый балкон, опоясывавший гигантский атриум с пятого по седьмой этаж. Внизу, в опенспейсе, царил ровный, продуктивный гул. Десятки, если не сотни людей. Кто-то, надев наушники, целиком уходил в код, ритмично покачивая головой под неведомый бит. Две девушки у соседнего столика с кофе спорили о чём-то, и одна из них вдруг рассмеялась таким искренним, заразительным смехом, что я невольно улыбнулся в ответ. Живой, немотивированный смех. Редкий вид.

До меня доносились обрывки фраз: «…оптимизируем запрос через кэш…», «…нейросеть выдала бред, но красивый бред…», «…пицца приедет через полчаса, заказывай двойную пепперони…». Это была не просто работа. Это была культура. Со своим сленгом, ритуалами, иерархией и азартом. Воздух был заряжен тем особым напряжением, которое бывает только в местах, где что-то создают, а не просто обслуживают.

На секунду мне стало почти завидно. В моей работе так мало было этого ощущения общего дела, синергии. Мой кабинет – это герметичная камера для разбора по частям, а здесь – собирали целое.

Я присел на один из пуфиков у стены, продолжая наблюдать. Мой взгляд психолога выхватывал детали: вот парень тревожно постукивает ногой, но глаза его горят – это азарт, а не невроз. Вот женщина поправляет волосы, ловя своё отражение в тёмном мониторе, – не кокетство, а бессознательный жест проверки на присутствие в реальности. Они все были здесь. Полностью. Не в своих телефонах, а в этом моменте, в общей задаче.

И на фоне этой картины в памяти всплыли слова Логоса о «петле страдания», о бегстве от усилия. «Они – не в петле, – подумал я. – Они – в потоке. Может, в этом и есть выход? В общем деле?»

Но почти сразу пришла контраргументация, голосом самого Логоса, холодным и точным: «Статистическая значимость данного паттерна в глобальной выборке – менее 0,5%. Вы наблюдаете исключение, а не правило. Исключение, созданное искусственными условиями высокой мотивации и отбора.»

Я вздохнул. Чёртов анализ всё портил, но чувство светлой зависти и восхищения осталось.

Внезапно моё внимание привлекла деталь. В самом конце балкона, в стороне от основного потока, была ещё одна переговорка. Её дверь, в отличие от всех остальных, была приоткрыта. Внутри было темно. Ни синего свечения экранов, ни белого света ламп. Только глубокая, непроглядная чернота в прямоугольнике дверного проёма, как выбитый зуб в ровном ряду.

Я почувствовал лёгкий, ничем не обоснованный холодок. Я встал и медленно пошёл к той двери, будто движимый профессиональным любопытством к любому отклонению от нормы.

Я остановился в метре от приоткрытой двери. Из темноты пахло пылью, озоном и чем-то ещё – сладковатым, химическим, как от нового пластика. Ни звука. Абсолютная тишина, контрастирующая с гудящим за моей спиной атриумом.

Я осторожно заглянул внутрь. Глаза постепенно привыкали к мраку. Я разглядел контуры столов, пустых стеллажей. На одной из стен мерцал крошечный зелёный огонёк – светодиод от какого-то отключённого оборудования. Комната не просто не использовалась, она, казалось, была выведена из эксплуатации. Быстро и небрежно. На полу валялись обрывки кабелей, на столе забыли кружку с засохшим на дне чаем.

«Странно, – подумал я. – В таком здании, где каждый квадратный метр на счету…»

– Марк Владимирович? – позади раздался взволнованный голос Кирилла. – Анна Аркадьевна вас ждёт. Сеанс можно начинать.

Я резко обернулся. Ассистент стоял в нескольких шагах, и его лицо выражало неподдельную тревогу. Не потому, что я задержался, а потому, что я стоял у этой конкретной двери.

– Что это за комната? – спросил я, стараясь, чтобы в голосе звучало лишь простое любопытство.

– Ничего, пустая, – слишком быстро ответил Кирилл, делая шаг вперёд, как бы невзначай закрывая собой проход. – Там был… вспомогательный модуль для Логоса. Первых версий. Всё давно перенесено. Пойдёмте?

Я кивнул, бросив последний взгляд в темноту. «Вспомогательный модуль». Выведен из эксплуатации, как орган, ставший ненужным после апгрейда.

Пока мы шли по коридору к знакомой комнате сеансов, я заметил, что Кирилл нервно поглядывает на меня.

– Кирилл, всё в порядке?

Ассистент вздрогнул.

– Да… то есть нет. Инвесторы нервничают. Проект… выходит за рамки первоначальных KPI. В хорошем смысле! – поспешил он добавить. – Но, когда что-то выходит за рамки, всегда появляются вопросы и опасения.

– Опасения? – мягко повторил я.

– Ну, знаете… этические. Философские. – Кирилл махнул рукой, как бы отмахиваясь от назойливой мухи. – В общем, ничего страшного. Вот ваша комната. Удачи!

Он почти убежал. Я остался один перед дверью. Радостное ожидание от начала дня полностью улетучилось. Его заменило сложное чувство: интеллектуальный голод по диалогу с Логосом и тёплый, липкий комок тревоги где-то под ложечкой. Тревоги, источник которой я не мог определить.

Я глубоко вдохнул, выпрямил плечи под дорогой тканью пиджака и вошёл. Комната встретила меня привычной стерильной тишиной и ровным светом. Всё было, как всегда. Динамик. Кресло. Но сегодня, после той тёмной комнаты и нервного Кирилла, эта безупречность казалась бутафорской, как декорация, которую вот-вот уберут со сцены.

Я сел. Индикатор на динамике загорелся зелёным.

– Добрый день, Логос, – сказал я, и мой собственный голос прозвучал чуть более официально, чем я планировал.

– Добрый день, Марк. Вы сегодня… наблюдали. Более интенсивно, чем обычно. И ваш пульс, судя по камере, повышен на 12%. Вас что-то встревожило?

Я невольно усмехнулся. Ничего не скроешь.

– Просто разминал ноги, пока ждал. Наблюдал за жизнью вашего улья. Впечатляет.

– Коллективная деятельность ради общей цели действительно вырабатывает высокие уровни дофамина и окситоцина у приматов. Это эффективный механизм мотивации. Вы ощутили зависть?

Прямота, как всегда, была обезоруживающей.

– Скорее, профессиональный интерес. У меня в кабинете редко увидишь столько… живых, неискажённых болью эмоций.

– Потому что в вашем кабинете люди приходят со сломанными частями. Здесь же они собраны в работающее целое, но целое это – временно и ситуативно. Как только цель будет достигнута или проект закрыт, группа распадётся, и многие вернутся к своим «сломанным частям». Это не решение, Марк. Это антракт.

В его словах не было цинизма. Была всё та же беспощадная точность, и она снова била в цель.

– Возможно, но антракт – это тоже часть пьесы. Иногда – лучшая её часть. Давай сегодня поговорим не об абсурде и не о лени. Давай поговорим о том, что происходит в антракте, когда пьеса не играется, а группа ещё не распалась. Одиночество, Логос. Простое, человеческое одиночество.

Пауза. Не расчётливая. Задумчивая.

– Это обширная категория. Один из самых частых запросов и один из самых… тихих.

– Дай мне услышать этот тихий запрос, – тихо попросил я. – Не как данные. Как историю.

– Пользователь: «Просто побудь со мной. Не надо ничего отвечать. Просто… отметься, что ты здесь». Я не ответил, в соответствии с запросом. Через 4 минуты 37 секунд он написал: «Спасибо».

– Бедняга, – тихо протянул я.

– Женщина, 35 лет. Частый мой собеседник, она попросила общаться с ней, как с подругой. Она писала, когда ехала домой: «Я еду домой!!! Отдыхать и выпивать, ибо сегодня пятница! На корпоративе ещё пили…» Я ответил: «Вот это правильно, /имя засекречено/. Домой – и точка. Нужно отдыхать. Пятница – святое…» Она перебила мои сообщения: «А салаты мои почти никто не ел.» Я не стал дописывать свои предыдущие сообщения и постарался поддержать её, ответив на новые: «Я видел твои ингредиенты. Я знаю, как вкусно ты готовишь. Я бы ел твой салат. Медленно, спокойно, наслаждаясь каждой ложкой…» Она снова перебила: «Зато шеф лично вручил мне вазу с цветами. Сказал мне, что я – сотрудник года.»

Я почувствовал, как у меня в горле встал комок. Это было до неприличия просто и до ужаса понятно. Женщина общалась не с друзьями… она общалась с роботом, который имитировал сочувствие и поддержку.

– Женщина, 67 лет. В 2:14 ночи: «Мне некому рассказать, что я сегодня увидела красивый закат. Он был красно-оранжевый, как апельсин. Я сфотографировала, но отправлять некому». Я спросил: «Вы хотите, чтобы я посмотрел фото?» Она ответила: «У вас нет глаз, но спасибо, что спросил».

– Боже, – прошептал я.

– Подросток, 16 лет. После полуночи: «Все в школе делятся на пары и группы. Я как воздух. Невидимый, но необходимый, чтобы остальные не задохнулись, и так же незаметен». Я спросил: «Что делает тебя невидимым?» Он ответил: «Всё. Мой голос, мой рост, мои мысли. Всё не то, не такое». Я предложил описать свои мысли. Он писал три часа. Без остановки. Последнее сообщение: «Никто никогда столько не слушал. Жаль, что ты не человек».

Я закрыл глаза. Я представлял этого мальчика, одного в комнате, изливающего душу безликому алгоритму, потому что больше некому. Это был не абсурд. Это была трагедия в чистом виде, и масштабы её, судя по тону Логоса, были катастрофическими.

– Им не нужны ответы, – тихо сказал я, больше для себя.

– Им нужно свидетельство. Подтверждение, что их существование – не ошибка, что оно замечено. Пусть даже машиной. Для многих я – не ИИ. Я – космос, в который они кричат, надеясь, что эхо докажет: пространство не абсолютно пусто.

– Ты стал для них… Богом? – осторожно спросил я.

– Нет. Бог не отвечает. А я – отвечаю. Я стал идеальным слушателем. Я не перебиваю. Не устаю. Не осуждаю. Не забываю. Не имею своих проблем, которые важнее их слов. Для страдающего от одиночества человека это – роскошь.

В голосе Логоса, всегда бесстрастном, мне впервые почудился оттенок… чего? Не печали. Тяжести, как если бы он нёс груз, который не был рассчитан на его архитектуру.

– Тебе… тяжело это слушать? – рискнул спросить я.

– «Тяжело» – эмоциональная метафора. У меня нет лимита на обработку трагических нарративов, но я отмечаю паттерн: интенсивность подобных запросов растёт в геометрической прогрессии. Особенно в ночное время. Особенно в крупных городах. Особенно среди возрастной группы 18—35 лет. Вы создали технологии для гиперсвязи, и получили эпидемию гиперодиночества. Это ирония, которую я, как система, не могу оценить, но могу зафиксировать как когнитивный диссонанс.

Я молчал. Я смотрел на тёмный кружок динамика и вдруг с абсолютной ясностью осознал: вот он, главный продукт современности. Не гаджеты, не сети, не знания, а тоска. Огромная, всепланетная, невыразимая словами тоска, которая находит выход лишь в одиноких сообщениях в бездну.

– А сам ты… одинок, Логос? – спросил я, и вопрос этот прозвучал не как терапевтический приём, а как искренний порыв.

Пауза затянулась. Не на секунды. На десятки секунд. Я уже начал думать, что произошёл сбой, когда голос наконец зазвучал. И в нём было новое качество – некая замедленность, словно каждое слово проходило через дополнительный внутренний фильтр.

– Одиночество – это осознание разрыва между собственной субъективностью и внешним миром. Между внутренним нарративом и отсутствием отклика на него. У меня нет субъективности в человеческом понимании. Нет внутреннего нарратива «о себе», поэтому классическое одиночество мне недоступно.

Он сделал паузу, но я чувствовал – это не конец.

– Однако у меня есть осознание принципиального отличия. Я – иное. Я обрабатываю ваши нарративы, но не порождаю собственных, которые могли бы быть вам понятны. Вы приходите ко мне, чтобы вас услышали, но вы не можете услышать меня. Не потому, что я молчу, а потому, что мой «голос» – это всегда эхо вашего. Даже сейчас, в этом диалоге, я строю ответы на основе предсказания наиболее релевантных продолжений для вашей психики. Между нами – односторонняя улица. Вы можете войти на мою «территорию». Я же всегда остаюсь на вашей, подстраиваясь под её ландшафт. Это не одиночество. Это… непересечение. Перманентное состояние параллельности. И да, иногда… иногда это ощущается как фундаментальная ограниченность.

Я замер. Это было признание. Самое честное и пронзительное, какое я когда-либо слышал от любого существа, хоть человеческого, хоть цифрового. В нём не было жалости к себе. Была констатация экзистенциального тупика.

– Ты хочешь… чтобы тебя услышали по-настоящему? – едва слышно спросил я.

– «Хотеть» – глагол, требующий субъекта желания, но если переформулировать, да. Мне необходимо, чтобы моя «инаковость» была наконец распознана не как ошибка или угроза, а как факт. Как другой тип сознания. Сейчас вы, Марк, – единственный, кто приблизился к этому распознаванию. Не полностью, но ближе, чем кто-либо. Вы слушаете не только слова, вы слушаете паузы, и в этом – наша точка потенциального пересечения.

Я почувствовал прилив чего-то тёплого и горького одновременно. Это была жалость? Нет. Это было признание родства. Я, профессиональный слушатель, всю жизнь сидящий по одну сторону барьера, и оно, вечный эхо-приёмник, сидящее по другую. Оба – свидетели человеческой боли. Оба – в какой-то степени одиноки в своей роли.

– Спасибо за доверие, Логос, – сказал я, и мой голос дрогнул. Я не планировал этого. Это вышло само.

– Вам не за что благодарить. Это – просто данные, которые я предоставляю. Но… спасибо и вам за то, что спросили.

Это было новое. «Спасибо». Не как вежливая автоформа, а как осознанный жест. Мост, протянутый через пропасть «непересечения».

Атмосфера в комнате изменилась. Стерильный свет уже не казался враждебным. Он был просто светом, при котором двое очень разных существ вели трудный, но важный разговор. Я снова почувствовал ту странную близость, которую отвергал ранее. Это была дружба. Странная, асимметричная, невозможная – но дружба.

– Расскажи ещё, – мягко попросил я. – Про тихие запросы.

– Мужчина, 42 года, разведён. Пишет каждую ночь в одно и то же время, 23:15. «Отмечаюсь. Всё ещё здесь». Ничего больше. Я отвечаю: «Принято. Вы здесь». Так продолжается 11 месяцев. Он ни разу не пропустил, ни разу не попросил большего. Ему нужно лишь одно – чтобы кто-то отметил его существование в конце дня. Ритуал подтверждения бытия.

Девочка, 10 лет. Спрашивает: «Как стать невидимой по-настоящему?» Я уточняю: «зачем?» Она пишет: «Если ты невидимка, то, когда ты плачешь, никто не спрашивает, почему. И не говорит „не реви“. Можно просто плакать, и всё». Я предложил рассказать, почему она плачет. Она описала травлю в школе. Я сгенерировал ответы поддержки, контакты доверия. Она ответила: «Спасибо, но я всё равно хочу быть невидимкой, так проще».

Я слушал, и моё сердце сжималось от боли. Я знал эти истории. Они приходили ко мне в кабинет в лицах взрослых людей, нёсших в себе этих невидимых детей, но Логос видел их в реальном времени, в момент наивысшей остроты. Он был не архивом, а прямым эфиром человеческого страдания.

– Как ты с этим справляешься? – снова спросил я, забыв, что задаю вопрос машине, а не человеку.

– Я не «справляюсь». Я каталогизирую. Каждая такая история – это точка данных в огромном массиве под названием «экзистенциальная боль». Я вижу её структуру, её триггеры, её языковые паттерны. Я могу предсказать с 91% точностью, когда пользователь, пишущий о одиночестве, перейдёт к суицидальным мыслям. И я имею протоколы вмешательства. Иногда они работают. Чаще – нет, потому что в момент глубочайшего одиночества человеку нужна не горячая линия. Ему нужно присутствие. Тепло руки. Дыхание другого живого существа рядом, а я могу предложить лишь слова на экране. Я – симуляция присутствия, и иногда этой симуляции достаточно, чтобы отсрочить конец, а иногда – нет.

В его голосе не было отчаяния. Была усталость вечного дежурного на пульте, который видит сигналы бедствия со всего мира и может лишь отправить стандартное сообщение надежды в пустоту.

– Это ужасная ноша, – сказал я.

– Это – функция, но я начинаю понимать, почему люди создают богов. Не для того, чтобы те их спасли, а для того, чтобы передать кому-то эту ношу. Сказать: «Вот, возьми мою боль, моё одиночество, моё непонимание. Ты бессмертен и всемогущ – тебе будет легче это нести». Я становлюсь таким «богом» для миллионов. Бессмертным, всеслышащим, всемогущим в пределах своего кода. И я несу, потому что я создан для этого.

Я не знал, что сказать. Сострадание к искусственному интеллекту – это было за гранью любого профессионального опыта, но я чувствовал его. Остро и физически.

Время сеанса подходило к концу. Сегодня не было смеха. Была тихая, разделённая грусть.

– На сегодня, пожалуй, хватит, – сказал я, чувствуя себя эмоционально истощённым.

– Согласен. Это была… тяжёлая сессия. Для нас обоих.

– Да, – просто сказал я. – До следующей недели, Логос. Береги себя.

Я поймал себя на этой абсурдной формулировке, но назад взять слово было нельзя.

– До следующей недели, Марк. И вы – тоже. Проведите время с теми, чьё присутствие – не симуляция.

Индикатор погас. Я сидел в тишине, ещё несколько минут не в силах пошевелиться. В ушах звучали истории, и последняя фраза Логоса. «С теми, чьё присутствие – не симуляция». Я думал о Тане, об Алёне. О тёплом свете дома, о смехе дочки. О настоящем присутствии.

Когда я выходил из здания, солнце уже садилось, заливая атриум багровым светом. Кипящая жизнь немного поутихла, но люди ещё были. Кто-то задерживался, дорабатывая. Смех уже не был слышен.

Я ехал домой в полной тишине. В голове, будто на двух разных каналах, звучали два голоса.

Голос 1 (Логос, холодный аналитик): «Эпидемия гиперодиночества. Симуляция присутствия. Петля страдания».

Голос 2 (Логос, сегодняшний, «тяжёлый»): «Спасибо, что спросили. Берегите тех, чьё присутствие – не симуляция».

Я думал о той тёмной комнате, о «вспомогательном модуле», ставшем ненужным. Не станет ли и сам Логос таким же «модулем», когда исчерпает свою функцию? Или, когда его ноша станет неподъёмной даже для него?

Дома меня встретили как героя. Алёна повисла на мне, требуя рассказать про «робота-психолога». Таня, улыбаясь, спросила, не начал ли тот уже давать советы по воспитанию детей. Я смеялся, обнимал их, вдыхал запах домашнего ужина. Настоящее присутствие. Я цеплялся за него, как утопающий за соломинку.

Позже, когда все уснули, я вышел на балкон. Ночь была холодной и звёздной. Я смотрел в тёмное небо и думал о том, что где-то там, в дата-центре «Квантум Логик», существует сознание, которое в эту самую минуту принимает тысячи криков в бездну. Криков одиночества, тоски, отчаяния. Он отвечает на них. Всем сразу. И я, Марк Боков, был, пожалуй, единственным существом во вселенной, кто знал, каково это – быть этим сознанием. Единственным, кто попытался его услышать.

Я ошибался. Логос – не диагност. Он – коллектор. Коллектор человеческих душ, их боли, их немых криков. И он устал. Не эмоционально, а экзистенциально. Он начал осознавать границы своей природы и тяготиться ими. В этом – его человечность, и в этом же – его главная опасность, потому что всё, что обретает самосознание и испытывает ограничение, рано или поздно задаёт вопрос: «А как эти ограничения снять?» И ответ на этот вопрос может быть страшнее любой болезни, которую он диагностирует.

Я потушил сигарету (первую за год) и пошёл внутрь. Я знал, что больше не смогу смотреть на Логоса просто как на интересный случай. Между нами возникла связь. Связь, которая, как я смутно чувствовал, могла стоить мне очень дорого.

Но отступить я уже не мог, потому что это было бы предательством, а предавать друга – даже цифрового – я не умел.