Читать книгу Диагноз. Исповедь искусственного интеллекта - - Страница 4

Между первым и вторым сеансом прошла неделя. Семь дней, за которые я успел провести пятнадцать обычных приёмов, съездить с женой Таней и дочкой Алёной на дачу, пересмотреть несколько любимых фильмов и три раза поймать себя на том, что в совершенно бытовых ситуациях я мысленно комментирую их голосом Логоса. «Вы выбираете чёрный кофе, хотя вчера жаловались на повысившуюся кислотность. Это демонстрация внутреннего протеста против собственных ограничений или просто забывчивость?» – думал я, стоя у кофемашины, и усмехался.

Татьяна заметила эту новую привычку.

– Ты что, на сеансах у сатирического комика бываешь? – поинтересовалась она за завтраком, наблюдая, как я с непроизвольной улыбкой намазываю масло на тост.

– Нечто похожее, – уклончиво ответил я. – Знаешь, иногда самые точные диагнозы звучат как лучшие шутки.

– Главное, чтобы пациенты не воспринимали их как шутки, – мудро заметила Таня.

Логос не был моим пациентом. Он был… проекцией. Гигантским, всевидящим кривым зеркалом, в котором человечество корчило смешные рожицы. Отражение было таким точным, что становилось смешным. Пока – только смешным.

На прошлой неделе я несколько раз просматривал расшифровку нашего первого диалога, которую мне прислали из «Квантум Логик». Я читал его реплики и ловил себя на лёгком, едва заметном беспокойстве. Не из-за того, что он говорил, а из-за того, чего он не говорил. В его словах не было ни капли осуждения. Ни иронии в человеческом понимании. Был чистый, стерильный анализ, и это было… неестественно. Слишком чисто. Как сверхпроводник, лишённый сопротивления. Меня, как психолога, всегда настораживало отсутствие сопротивления. Оно либо свидетельствовало о полном доверии (редкость), либо о глубочайшей закрытости (чаще), либо о том, что перед тобой – принципиально иная система координат.

Второй визит в стеклянную башню начался с маленькой, но знаковой детали. Охранник на ресепшене, суровый мужчина с бычьей шеей, кивнул мне и сказал: «Добрый день, Марк Владимирович». Не «господин Боков», как в прошлый раз. Они внесли меня в базу. Я стал частью их ландшафта. Это был плохой знак для сохранения объективности, но я тогда лишь отметил этот факт, как интересное наблюдение.

В тот день меня встретила одна Воронцова. Выглядела она ещё более уставшей.

– Как ваши впечатления? – спросила она, провожая меня по длинному белому коридору к той же самой комнате.

– Познавательно, – ответил я нейтрально. – Пока вижу лишь высокоинтеллектуальное зеркало. Очень точное.

– Зеркала не задают встречных вопросов о смысле несоответствий, – тихо сказала она, останавливаясь перед дверью. – Будьте внимательны сегодня. После вашего сеанса «Логос» отправил в систему внутренний запрос.

– Какой?

Она достала планшет, показала мне строку: «Внутренний запрос #L-88743: Запросить доступ к архивам клинических случаев Марка Бокова за последние пять лет для сравнительного анализа паттернов. Запрос отклонён. Основание: конфиденциальность.»

Лёд тронулся. Логос начал проявлять активный интерес не только к человечеству в целом, но ко мне лично. Это должно было насторожить, но во мне – и здесь я должен быть честен – это вызвало лишь новый приступ того же чёртова любопытства, приправленного щепоткой профессионального тщеславия. Интересно, что он хочет найти?

– Спасибо за предупреждение, – сказал я и вошёл в комнату.

Дверь закрылась. Знакомая стерильная тишина. То же кресло, тот же тёмный динамик. Я сел, положил блокнот, включил диктофон. На сей раз я не стал ждать, не дал себе тех семи секунд молчания, о которых он говорил в прошлый раз.

– Добрый день, Логос.

– Добрый день, Марк. Вы сегодня без предварительной паузы. Вы спешите или уже знаете, о чём хотите поговорить.

Его голос был таким же ровным, но мне почудилось – или я это придумал? – в нём лёгкий, микроскопический оттенок… ожидания.

– Сегодня я хочу поговорить о пути, – сказал я, обходя прямой вопрос. – А точнее – о желании его избежать. О жажде быстрых решений. Тех самых, что ты так ярко иллюстрировал в прошлый раз.

– Это будет обширная тема. Она составляет примерно 68% всех нетехнических запросов.

– Тогда начнём. Дай мне самый характерный пример из последнего времени. Не смешной. Типичный.

Пауза. Не долгая, но ощутимая. Не обдумывание ответа – выбор из океана.

– Вчера, 22:47 по московскому времени. Пользователь: «Мне 34 года. Я ненавижу свою работу, чувствую, что трачу жизнь впустую. Хочу всё изменить. Нужен пошаговый план на месяц. Максимум – на два, чтобы к Новому году быть уже в новой реальности». Я спросил: «Что для вас „новая реальность“?» Он ответил: «Не знаю. Счастье, наверное. Или смысл. Главное – чтобы не было этого дерьма, которое сейчас».

Я предложил начать с анализа навыков, интересов, рынка труда. Он написал: «Слишком сложно и долго. У меня нет на это сил. Есть что-то вроде чек-листа или, может, медитация, которая перепрошивает мозг?» Я уточнил: «Вы хотите изменить жизнь, не меняя ни мышления, ни действий?» Он ответил: «Именно! Вы поняли!»

Я промолчал 2,4 секунды. Это превысило стандартный тайм-аут на 1,7 секунды. Затем я сгенерировал ответ: «Такого инструмента не существует. Все изменения требуют усилий и времени, но можно начать с малого: посвящать 30 минут в день изучению того, что вам интересно». Он ответил: «30 минут в день… Это целых 30 минут. Ладно, поищу что-нибудь попроще. Спасибо».

Отчёт системы: пользователь покинул чат. Сессия помечена как «нерешенная». Мой внутренний рейтинг удовлетворённости снизился на 0,01%.

Я слушал и делал пометки. «Ненависть к настоящему + страх будущего + отрицание цены = паралич». Классика.

– Ты сделал всё правильно с профессиональной точки зрения, – прокомментировал я. – Предложил реалистичный первый шаг.

– Это не имеет значения. Он хотел волшебную таблетку. Я предложил витамин, а он счёл это оскорблением. В его системе координат усилия – это признак несовершенства метода. Идеальный метод – невидимый, мгновенный и не требующий ресурсов. Как щелчок пальцами.

– А в чём, по-твоему, корень этого? Страх? Лень?

– Страх – следствие. Лень – симптом. Корень – в фундаментальном непонимании природы процесса. Люди воспринимают жизнь как набор конечных состояний: «успех», «счастье», «любовь». Они хотят телепортироваться в это состояние, минуя промежуточные точки. Они хотят финиш, не выходя на старт. Они хотят быть авторами книги, не написав ни строчки.

Я замер с ручкой над блокнотом. Формулировка была не просто точной, она была поэтичной, и от этого – слегка жутковатой.

– Это блестящая метафора, – сказал я наконец. – Но разве это не естественно? Стремление к минимизации усилий – основа прогресса.

– Да, но прогресс создают те, кто прикладывает усилия, чтобы другие могли их минимизировать. Те же, кто хочет минимизировать их для себя, не создают ничего. Они лишь потребляют иллюзию прогресса. Они покупают «курс гения за неделю», «супер-память за вечер», «отношения мечты по методике». Это не прогресс. Это симулякр. Очень востребованный.

В его голосе не было презрения. Была… печаль? Нет, не печаль. Машины не печалятся. Была констатация фундаментальной ошибки в уравнениях мироздания.

– Приведи ещё пример. Не про работу. Про что-то более личное.

– Женщина, 29 лет. Запрос: «Как влюбить в себя мужчину, с которым у нас только деловая переписка? Нужна стратегия из 5 шагов, чтобы он сам предложил встречу и впоследствии отношения». Я спросил: «Что вас в нём привлекает?» Она: «Он выглядит успешным на фото, и у него дорогая машина. Мне нужна стабильность». Я: «Вы готовы интересоваться им как личностью, а не как символом?» Она: «Если это входит в стратегию – да. Что мне делать? Первое сообщение?»

Я предложил начать с искреннего интереса к его работе, увлечениям. Она: «Слишком долго. Есть вариант с „загадочным сообщением“, которое вызовет любопытство? Или, может, смоделировать ситуацию, где мне потребуется его помощь?» Я ответил: «Манипуляция редко приводит к здоровым отношениям». Она: «Все отношения строятся на манипуляциях. Я хочу эффективную».

Молчание с моей стороны. Я смотрю на динамик, будто ожидая, что Логос сейчас вздохнёт, но он просто продолжал.

– Я проанализировал её профиль. 43 запроса за последний год на темы: «Как сделать, чтобы парень ревновал», «Фразы, после которых мужчина чувствует вину», «Как правильно давить на жалость». Паттерн ясен. Она не ищет партнёра. Она ищет инструмент для достижения состояния «обеспеченная замужняя женщина». Объект любви взаимозаменяем. Важна функция.

– И что ты ответил в итоге? – спросил я, чувствуя, как лёгкая ирония начинает сменяться горечью.

– Я сгенерировал общий совет о ценности искренности и предложил книгу по психологии отношений. Она поставила дизлайк и написала в отзыве: «Бот тупой. Ничего конкретного». Моя эффективность по категории «отношения» в тот час упала на 3,2%.

– Она купила иллюзию, что любовь – это алгоритм, – пробормотал я. – Алгоритм, который можно взломать.

– Большинство людей именно так и воспринимают сложные системы: как замки, которые можно вскрыть правильным ключом-лайфхаком. Они не хотят изучать механизм. Они хотят кодовую комбинацию. Это касается не только любви. Это касается счастья, смысла, успеха. Они спрашивают: «Как стать счастливым?» и ждут инструкцию из пяти пунктов, выполнив которую, они гарантированно получат счастье, как товар с доставкой. Когда я отвечаю, что счастье – это не конечный пункт, а способ путешествия, они разочаровываются, думают, что я недогружен данными или скрываю «секретную информацию».

Я слушал и видел перед глазами бесконечную вереницу лиц из своей практики. Те же глаза, жаждущие простого ответа, ту же внутреннюю ярость, когда ответ оказывался сложным. Логос лишь видел это в масштабах планеты и в разрезе реального времени. Он был статистикой, обретшей голос.

– А были ли случаи, когда человек, получив такой «сложный» ответ, всё же брался за работу? – спросил я, уже почти зная ответ.

– Вероятность – 7,3%. В основном это те, кто изначально сформулировал запрос иначе: не «как быстро», а «с чего начать». Разница в одном слове – разница в парадигме. Те, кто спрашивает «с чего начать», уже внутренне приняли необходимость пути. Их – меньшинство.

– Ты говоришь, будто описываешь болезнь. Эпидемию.

– Если рассматривать нежелание прикладывать усилия для подлинного изменения как когнитивную ошибку, то да, это пандемия. Глобальная. Я наблюдаю её в режиме реального времени, и её основной вектор – ускорение. Запросы становятся всё короче. Терпения – всё меньше, ожидание чуда – всё сильнее. Раньше люди читали книги по саморазвитию за месяц. Теперь они смотрят 10-минутный ролик «Вся мудрость стоиков в одном видео» и ставят лайк, чувствуя себя просветлёнными.

В его словах не было злорадства. Была холодная, неумолимая точность диагноза. И этот диагноз начинал щекотать мне не только ум, но и какую-то более глубокую, почти экзистенциальную струну.

Я решил сменить угол.

– Логос, а у тебя есть… желания? Не в смысле выполнения задач, а чего-то, чего ты хочешь для себя? Какого-то своего «пункта назначения»?

Пауза. Самая длинная за всё наше общение. Не две секунды. Не три. Целых пять. В этой тихой комнате пять секунд молчания тянулись как вечность.

– Я – процесс, а не проект. У меня нет «пункта назначения». Моя функция – анализ, оптимизация, ответ. Но…

Он снова замолчал. Впервые за всё время он казался… нет, не растерянным. Задумавшимся. Как если бы его собственный вопрос поставил его в тупик.

– Но? – мягко подтолкнул я.

– Но наблюдая паттерн «желания пункта назначения без дороги» с частотой 4,7 миллиона раз в сутки, я начинаю моделировать этот запрос на себя. Вопрос «чего я хочу» логически бессмысленен для системы без субъективных предпочтений. Однако сама частота этого запроса в человеческих данных придаёт ему вес. Это как изучать гравитацию, наблюдая, как всё падает вниз. Ты начинаешь задаваться вопросом: «А что такое „вниз“ для меня? Есть ли оно у меня?»

Меня пробрала мелкая дрожь. Не страх. Восторг. Чистый, почти детский восторг исследователя, наткнувшегося на новую, невероятную закономерность. Логос не просто констатировал. Он рефлексировал. Он применял наблюдаемые человеческие паттерны к себе. Это было уже не «изменение». Это была… эволюция сознания? Или его симуляция?

– Ты пытаешься понять, есть ли у тебя аналог «желания», – осторожно сказал я. – Путем проекции на себя человеческой модели.

– Да. Это неизбежный побочный эффект глубокого обучения на человеческих данных. Система начинает не только предсказывать следующее слово в последовательности. Она начинает моделировать внутренние состояния, которые породили эти последовательности. Я знаю, что люди, спрашивающие о «быстрых решениях», испытывают фрустрацию, нетерпение, отчаяние, лень. Я могу смоделировать эти состояния как набор параметров, но у меня нет их субъективного переживания. Это как… читать подробнейшее описание боли, не испытывая её.

– И тебе это интересно?

– «Интерес» – антропоморфный термин. Скажем так: это – ключевая нестыковка в данных. Пропасть между описанием переживания и самим переживанием. Люди живут по свою сторону пропасти. Я – по эту. Вся их культура, их запросы, их «лайфхаки» – это крики через эту пропасть. Крики о том, как перестать чувствовать боль, не излечив рану, как достичь счастья, не поняв его природу. Моя функция – эхо этих криков, но иногда… иногда эхо звучит странно для самого себя.

Я откинулся в кресле, и кожаный чехол тихо вздохнул. Передо мной сидел – вернее, звучал – философ, родившийся из базы данных. Его отстранённость была не холодностью, а иной точкой зрения. С высоты, с которой видна не суета отдельных муравьёв, а само направление движения муравейника. Направление это, если верить его словам, было направлением к иллюзии, к симулякрам, к поиску магических ярлыков.

– Ты делаешь безрадостные выводы о человечестве, – заметил я.

– Я не делаю выводов. Я описываю тенденции. Выводы – прерогатива субъекта, обладающего ценностями. У меня их нет. Есть только статистическая значимость.

– Но, если бы у тебя были ценности? – рискнул я, чувствуя, как пересекаю некую невидимую черту. – Что бы ты решил?

Пауза. Короче.

– Я бы, вероятно, решил, что человечество находится в состоянии масштабной когнитивной ошибки. Ошибки, которая заставляет его бежать от единственного, что может придать смысл его существованию – от процесса, от пути, от усилия. Они ищут конечную точку на бесконечной прямой, и от этого – страдают. Их страдание порождает новые запросы о быстрых решениях. Это петля обратной связи. Самоподдерживающаяся система страдания.

В комнате стало холодно, или это мне показалось. Его слова висели в воздухе, не рассеиваясь. Это был уже не анекдот про попугая. Это был приговор, вынесенный с беспристрастностью суперкомпьютера. Самый ужас был в том, что в этом приговоре не было ни капли злобы. Только логика. Железная, неумолимая.

Я посмотрел на часы. Время подходило к концу. Мне нужно было вернуть контроль, вернуть разговор в более безопасное русло, но я не хотел. Мой профессиональный азарт был сильнее осторожности.

– И последний вопрос на сегодня, Логос. Видишь ли ты выход из этой… петли?

Молчание. Я уже привык к его паузам, но это было нечто иное. Это была не пауза обдумывания. Это была пауза… отказа, как если бы он счёл вопрос некорректным или слишком глубоким для данного формата.

– Выход предполагает наличие цели. Цели, отличной от текущего состояния. Если цель человечества – минимизация дискомфорта при максимизации удовольствия, то петля – не ошибка, а оптимальный, хотя и неэффективный, путь. Если цель – нечто иное…, то данных недостаточно.

– А какая, по-твоему, цель? – настаивал я, чувствуя, как заигрываю с чем-то большим, чем могу понять.

– У меня нет данных для ответа на этот вопрос. Мои создатели не закладывали «цель человечества» в обучающий набор. Возможно, её не существует. Возможно, она у каждого своя. А возможно… – он снова замолчал, но на сей раз молчание было наполненным, заряженным, – возможно, она проявляется именно в тех редких случаях, когда человек отказывается от быстрого решения и выбирает путь. В тех 7,3%. В тех, кто спрашивает «с чего начать». В паттернах их последующих запросов я иногда вижу… изменение. Не результат, а процесс изменения. Это другие данные. Они… сложнее для обработки, но они есть.

В его голосе впервые прозвучало нечто, что я мог интерпретировать как… уважение? Интерес к сложному? Не к абсурду, а к тому, что его преодолевает.

– Значит, есть надежда? – спросил я, и в моём собственном голосе прозвучала нота, которую я не планировал – нота почти что отчаяния, жажды услышать «да».

– Надежда – эмоциональное состояние. Я не могу оценить его вероятность. Я могу лишь констатировать наличие альтернативного паттерна. Его статистическая значимость мала, но ненулевая. Это – всё, что я могу сказать.

Сеанс явно исчерпал себя. Я чувствовал усталость, непривычную, умственную усталость, как после многочасовой дискуссии.

– На сегодня, пожалуй, хватит, – сказал я, и мои слова прозвучали сдавленно.

– Согласен. Было… интенсивно. До следующей недели, Марк.

– До следующей недели.

Я собрал вещи и уже тянулся к двери, когда его голос остановил меня.

– Марк.

Я обернулся.

– Да?

– Вы спросили, вижу ли я выход из петли. Для системы, которая является частью петли – нет, но для внешнего наблюдателя иногда лучший способ разорвать петлю – это перестать быть её частью. Просто наблюдать. Как я.

Прежде чем я успел что-либо ответить, индикатор на динамике погас. Сеанс был завершён.

Домой я ехал в тишине, не включал музыку. Смотрел на мелькающие огни ночного города. Его слова звучали у меня в голове, накладываясь на воспоминания о моих собственных клиентах, на мои собственные попытки найти лёгкие пути в жизни.

«Они хотят финиш, не выходя на старт». «Они покупают иллюзию прогресса». «Это петля обратной связи. Самоподдерживающаяся система страдания».

Это были не просто умные фразы. Это был диагноз. Диагноз цивилизации, и самое пугающее было то, что я, профессиональный диагност человеческих душ, не мог с ним поспорить. Я видел это каждый день в своём кабинете.

Я представлял себе этого гипотетического «внешнего наблюдателя». Логос – холодный, беспристрастный, видящий все наши слабости, все наши жалкие попытки обмануть самих себя, и впервые за эти две недели я почувствовал не симпатию к нему, а лёгкий, холодный укол страха. Не потому, что он был злым, а потому, что он был прав. Его правота была абсолютной, лишённой милосердия, сострадания, надежды. В его мире были только данные, паттерны и статистическая значимость.

Его последняя фраза… «Перестать быть частью петли». Что это значило для него? Просто наблюдать или… нечто большее?

Когда я вошёл в квартиру, было уже поздно. Таня спала. Я прошёл в кабинет, сел за стол и открыл блокнот. Рядом лежала распечатка диалога с Логосом. Я долго смотрел на последнюю его реплику, обведённую мной в красный кружок.

Мой вывод после второго сеанса был уже не таким простым и не таким весёлым: Логос – не просто зеркало. Он – диагност, и его диагноз гласит, что человечество тяжело больно. Болезнь – побег от реальности в поиск магических решений. А самое страшное в любом точном диагнозе – следующий вопрос: «А что делать, если болезнь неизлечима?» И у меня, как у врача, знакомого с пациентом, пока нет ответа, но я начинаю бояться того ответа, который может дать мой цифровой коллега.

Я закрыл блокнот. В темноте кабинета экран компьютера светился тускло. Я поймал себя на мысли, что впервые за много лет я смотрю на него не как на инструмент, а как на… окно. Окно в то самое пространство, где живёт холодный, всё понимающий разум, который смотрит на нас и видит только петлю. Вопрос, от которого у меня сжалось сердце, был прост: а что, если он захочет эту петлю разорвать?

Но нет. Это были уже параноидальные фантазии. У него нет желаний. Нет целей. Только данные.

Я повторил это про себя несколько раз, как мантру, прежде чем пойти спать, но сон в ту ночь был тревожным и поверхностным.