Читать книгу Кибербезопасность сознания в эпоху искусственного интеллекта (Часть 1) - Александр Волков - Страница 3

Когда-то, еще совсем недавно, у человека было святое право – право на тайну. Это было не просто юридическое понятие или социальная конвенция, а физическое пространство, невидимая сфера, окружающая каждого из нас, куда никто не смел войти без приглашения. У нас были мысли, которые мы не озвучивали, письма, которые мы сжигали в камине, и встречи, о которых знали только двое. Мы могли уехать в другой город, сменить имя, сбрить бороду или перекрасить волосы и начать жизнь с чистого листа. Мы могли быть кем угодно, потому что наша история принадлежала нам. Она хранилась в нашей памяти, в выцветших фотографиях в альбоме на пыльной полке и в сердцах близких людей. В этом была великая свобода – свобода быть непрочитанной книгой, загадкой, которую нужно разгадывать годами. Мы могли совершать ошибки, падать, подниматься и идти дальше, не таща за собой вечный, несмываемый шлейф прошлого. Приватность была нашим убежищем, тем местом, где мы могли снять социальные маски, смыть грим усталости и просто быть собой – уязвимыми, несовершенными, настоящими. Это было пространство, где рождались мечты, потому что мечте нужна тишина и темнота, как семени нужна почва, чтобы прорасти.

Но сегодня, проходя по оживленной улице мегаполиса и вглядываясь в лица прохожих, я вижу не людей. Я вижу "Стеклянных людей". Мы стали прозрачными. Мы стали проницаемыми. Мы добровольно, с радостной улыбкой и детской наивностью, обменяли свое право на тайну на удобство, на бесплатные приложения, на лайки и на иллюзию связи. Мы разрушили стены своего дома и заменили их стеклом, установив по периметру прожекторы, которые светят внутрь 24 часа в сутки. И самое страшное не в том, что кто-то смотрит на нас. Самое страшное в том, что мы привыкли к этому взгляду. Мы начали жить так, словно постоянно находимся на сцене. Мы редактируем свою жизнь в реальном времени, подгоняя ее под алгоритмы, которые решают, достойны ли мы внимания. Смерть приватности – это не одномоментное событие, это не взрыв и не катастрофа, о которой трубят в новостях. Это медленная, тихая эрозия души, похожая на то, как вода стачивает камень. Мы не заметили, как исчезла наша тень.

Помню один разговор с пациентом, назовем его Артур. Успешный архитектор, человек с безупречным вкусом и, казалось бы, полным контролем над своей жизнью. Он пришел ко мне с жалобой на тревогу, природу которой он не мог объяснить. "Профессор, – говорил он, нервно крутя в руках смартфон, – у меня такое чувство, что я живу в аквариуме. Я сижу дома, один, пью вино, но я чувствую присутствие. Не призраков, нет. Присутствие чего-то холодного и внимательного". Мы начали разбирать его жизнь, слой за слоем, и выяснилось, что Артур стал жертвой того, что я называю "алгоритмическим предопределением". Однажды он просто подумал – даже не сказал вслух, а просто допустил мысль – о том, что его брак, возможно, исчерпал себя. Он задержал взгляд на статье о разводах на долю секунды дольше обычного. Он чуть медленнее прокрутил ленту, когда увидел рекламу однокомнатной квартиры. Он не вводил поисковых запросов. Он ничего не писал друзьям. Но его "цифровой двойник", его стеклянная копия, которая живет на серверах корпораций, уже всё поняла. И система начала действовать.

На следующий день его лента наполнилась рекламой сайтов знакомств, статьями о психологии одиночества и предложениями услуг юристов по семейному праву. Алгоритм уловил микроскопические изменения в его поведении – ритм набора текста, время, проведенное в соцсетях поздно ночью, даже, возможно, изменение тембра голоса при звонках жене, проанализированное "для улучшения качества связи". Система решила за него, что он готов к разводу, еще до того, как он сам это осознал. Она подтолкнула его. Она валидировала его смутные сомнения, превратив их в твердую уверенность. "Они знали обо мне то, что я сам боялся себе признаться", – прошептал он с ужасом в глазах. В этом и заключается трагедия Стеклянного человека: он больше не знает, где заканчиваются его собственные желания и где начинается внешняя манипуляция. Мы теряем авторство своей судьбы.

Сбор больших данных превратил каждого из нас в открытую книгу, написанную на языке, который мы сами не понимаем, но который прекрасно понимают машины. Мы наивно полагаем, что приватность – это сокрытие "плохих" вещей: преступлений, измен, постыдных привычек. "Мне нечего скрывать, я честный человек", – часто слышу я от людей. Это самая опасная ложь нашего века. Приватность – это не про сокрытие преступлений. Приватность – это право на несовершенство. Это право на изменение мнения. Это право на ошибку, которая не будет записана в вечное досье. Когда каждый ваш шаг, каждая покупка, каждый маршрут, каждое колебание курсора мыши записывается и анализируется, создается профиль такой точности, что он может предсказать ваше поведение лучше, чем ваша мать или супруга.

Представьте себе мир, где ваша страховая компания знает, что вы едите слишком много жирного, потому что ваш умный холодильник и данные о покупках в супермаркете сливаются в единую базу. И вот, вам повышают стоимость страховки за "рискованное поведение", хотя вы еще ничем не заболели. Представьте, что банк отказывает вам в ипотеке не потому, что у вас плохая кредитная история, а потому что алгоритм проанализировал ваши социальные связи и выяснил, что ваши друзья – люди с низким доходом и нестабильной работой. "Скажи мне, кто твой друг, и я скажу, кто ты" – теперь это не пословица, а скоринговая модель. Вы становитесь заложником своего окружения, своего прошлого, своих генетических предрасположенностей. Вы заперты в стеклянной клетке вероятностей.

Мы создали общество "Паноптикона". В XVIII веке философ Иеремия Бентам придумал идеальную тюрьму – Паноптикон, где стражник в центре мог видеть всех заключенных, но заключенные не видели стражника. Они никогда не знали, наблюдают ли за ними в данный конкретный момент, и поэтому вынуждены были вести себя так, словно наблюдение ведется постоянно. Внутренний надзиратель становился эффективнее внешнего. Сегодня мы все живем в глобальном цифровом Паноптиконе. Нам не нужно видеть стражника. Нам достаточно знать, что телефон в нашем кармане собирает данные о геолокации, умные часы считают пульс, а камера ноутбука, даже если огонек не горит, теоретически может быть активирована. Это знание меняет нашу психику на фундаментальном уровне. Мы начинаем подвергать себя самоцензуре. Мы не ищем в сети то, что нам действительно интересно, если это может показаться "странным" или "подозрительным". Мы не пишем того, что думаем, боясь, что через десять лет этот текст всплывет и разрушит нашу карьеру. Мы становимся пресными, предсказуемыми, безопасными. Мы убиваем в себе уникальность, чтобы вписаться в алгоритмическую норму.

Анонимность, которая когда-то была естественным состоянием человека в толпе, стала самым дорогим и дефицитным ресурсом. Раньше, чтобы узнать о человеке всё, нужно было нанять частного детектива, который неделями ходил бы за ним по пятам. Это было дорого, сложно и заметно. Теперь достаточно купить базу данных на черном рынке или просто воспользоваться открытыми источниками. Я видел, как это работает на практике, когда консультировал одну семью, столкнувшуюся с киберсталкингом. Их дочь-подросток стала объектом одержимости неизвестного. Он знал, во сколько она выходит из школы, какую музыку слушает, о чем мечтает и чего боится. Родители были в панике, они думали, что это кто-то из близкого круга. Но расследование показало, что сталкер ни разу не видел её вживую до начала преследования. Он просто собрал пазл из её цифровых следов: геометки в сторис, комментарии в пабликах, плейлисты в музыкальном сервисе. Она сама, своими руками, построила для него карту своей души и своего тела. Она была Стеклянной девочкой, уверенной, что живет в крепости, в то время как стены её дома были прозрачны.

Это глубочайшая психологическая травма целого поколения – потеря чувства "дома" внутри себя. Если ваше сознание, ваши предпочтения и ваши слабости оцифрованы и лежат на серверах в Калифорнии или Шэньчжэне, принадлежите ли вы сами себе? Или вы стали просто набором данных, активом, который перепродают рекламным брокерам? Мы чувствуем эту потерю субъектности. Отсюда растет эпидемия тревожности, депрессии и ощущения бессмысленности. Человек не может быть счастлив, если он чувствует себя товаром.

Но давайте копнем глубже. Что происходит с нашими отношениями, когда нет тайны? Любовь требует загадки. Эротика требует недосказанности. Дружба требует доверия, которое проверяется временем, а не возможностью прочитать переписку друга. В мире Стеклянных людей отношения становятся транзакционными. Мы "пробиваем" партнера перед первым свиданием. Мы знаем о его бывших, о его политических взглядах, о том, где он отдыхал в 2018 году. Мы встречаемся не с живым человеком, а с его анкетой. И когда реальный человек оказывается сложнее, противоречивее и "неудобнее" своего цифрового профиля, мы чувствуем разочарование. "Он не такой, как в профиле". Конечно, не такой! Никто не такой. Но мы разучились познавать другого человека через диалог, через взгляд, через прикосновение. Мы хотим получить "превью", гарантию качества, как при покупке пылесоса. Мы хотим предсказуемости в любви, но предсказуемость убивает любовь.

Я наблюдаю, как меняется понятие стыда. Раньше стыд был регулятором социального поведения внутри общины. Теперь стыд стал оружием глобального масштаба. "Культура отмены", публичные линчевания за старые твиты – это прямые следствия прозрачности. Мы не прощаем ошибок, потому что цифровая память абсолютна. Она не умеет забывать, как умеет человеческий мозг. В биологическом мире забвение – это благо. Оно позволяет ранам заживать, а обидам стираться. В цифровом мире забвения нет. Ошибка, совершенная в 15 лет, может преследовать вас в 50. Это создает атмосферу постоянного страха. Мы боимся собственного прошлого. Мы боимся собственной тени. Мы живем, постоянно оглядываясь назад, в страхе, что из цифрового небытия всплывет какой-то неловкий момент и уничтожит нашу настоящую жизнь. Это жизнь в состоянии хронического стресса, жизнь под дулом пистолета, курок которого может нажать любой аноним из интернета.

И вот мы подходим к главному парадоксу. Мы отдали свою приватность ради безопасности и удобства, но в итоге не получили ни того, ни другого. Мы стали более уязвимыми, чем когда-либо. Если злоумышленник знает о вас всё, он может манипулировать вами так тонко, что вы будете считать его мысли своими собственными. Социальная инженерия вышла на уровень искусства. Мошенники больше не пишут "Мама, я попал в беду, пришли денег". Они используют голосовые дипфейки, они знают клички ваших домашних животных, они знают, когда вы обычно обедаете и когда вы наиболее уставшие и невнимательные. Они бьют точно в цель, потому что карта уязвимостей вашего "Я" находится в открытом доступе.

Что же делать Стеклянному человеку в мире, полном камней? Осознать ценность непрозрачности. Мы должны заново научиться искусству быть скрытными. Не ради преступлений, а ради сохранения своей души. Мы должны научиться создавать зоны тишины, куда не проникает сигнал Wi-Fi. Мы должны культивировать в себе внутренний мир, который не выкладывается в сторис. Мы должны научиться ценить живое общение без цифровых посредников. Анонимность и приватность станут новой роскошью, доступной только тем, кто готов приложить усилия для её защиты. Это будет формой сопротивления. Оставить телефон дома и пойти гулять в лес – это теперь революционный акт. Написать письмо от руки и отправить его по почте – это шифрование, которое не взломает ни один хакер, если не перехватит конверт физически.

Будущее, которое я вижу, разделится на два класса: прозрачные массы, управляемые алгоритмами, и "теневая элита", которая может позволить себе роскошь быть невидимой. Те, кто сможет купить себе право на забвение, право на отсутствие цифрового следа. Но пока этот разрыв не стал непреодолимым, у каждого из нас есть шанс вернуть себе хотя бы часть своего суверенитета. Начните с малого. Задайте себе вопрос: "Кому принадлежит эта мысль? Мне или ленте новостей?". Почувствуйте границы своего "Я". Ощутите, где заканчивается ваша кожа и начинается экран. И попробуйте, хотя бы на час в день, стать непрозрачным. Станьте загадкой для алгоритма. Сделайте что-то нелогичное, непредсказуемое, человеческое. Это будет ваш первый шаг к восстановлению стен вашего разрушенного дома. Первый шаг от Стеклянного человека обратно к Человеку Живому.