Читать книгу Кибербезопасность сознания в эпоху искусственного интеллекта (Часть 1) - Александр Волков - Страница 5

Мы входим в комнату, и наши глаза привычно сканируют пространство, подтверждая, что мир вокруг нас устойчив, материален и правдив. Мы видим лицо друга и улыбаемся в ответ, мы слышим голос матери по телефону и чувствуем тепло в груди, мы смотрим видеообращение президента и принимаем решения о своем будущем. Тысячелетиями наша биология, наши нейронные связи и наши инстинкты строились на одной фундаментальной аксиоме: видеть – значит верить. Слышать – значит знать. Наши органы чувств были нашими единственными, безупречными свидетелями, гарантами того, что реальность существует и она объективна. Эволюция не готовила нас к тому, что эти свидетели могут начать лжесвидетельствовать, причем делать это так искусно, что ни один детектор лжи, встроенный в наш мозг, не дрогнет. Мы оказались в эпицентре онтологического кризиса, где сама ткань бытия начинает расползаться под натиском синтетических медиа. Дипфейки – это не просто забавные видео, где лицо известного актера приклеивают к телу героя боевика; это ядерное оружие в информационной войне, направленное на уничтожение самого дефицитного ресурса человечества – доверия. Когда вы больше не можете верить своим глазам и ушам, вы теряете почву под ногами, вы проваливаетесь в состояние, которое я называю "реальностной апатией", – защитный механизм психики, отказывающейся различать правду и вымысел, потому что это стало слишком больно и энергозатратно.

Я хочу рассказать вам историю одной моей клиентки, назовем её София, чья жизнь была разрушена не хакером, укравшим деньги, а алгоритмом, укравшим её голос. София – талантливый руководитель благотворительного фонда, женщина с безупречной репутацией и огромным сердцем. Однажды утром её главному бухгалтеру позвонили. Это был голос Софии. Не похожий, не имитирующий интонации, а именно её голос – с той самой легкой хрипотцой, с характерными паузами, с тем специфическим вздохом, который она делала перед принятием важного решения. Голос был взволнован, но собран, он требовал немедленного перевода крупной суммы на зарубежный счет для срочной закупки медицинского оборудования. Бухгалтер, работавшая с Софией десять лет, не усомнилась ни на секунду. Она слышала не просто слова, она слышала личность своего босса. Она слышала эмоцию, тревогу, ответственность. Деньги ушли. И только вечером, когда реальная София вошла в офис, выяснилось, что никакого звонка не было. Бухгалтер пережила нервный срыв, но самое страшное произошло с Софией. Она призналась мне: "Профессор, я чувствую себя изнасилованной. Кто-то взял часть меня, мою уникальную вибрацию, мой звуковой отпечаток, и использовал его как перчатку, чтобы совершить преступление. Я теперь боюсь говорить по телефону. Я боюсь, что мой голос мне больше не принадлежит".

Это и есть новая реальность кибербезопасности. Мы привыкли защищать данные паролями, но как защитить своё лицо? Как защитить тембр своего голоса? Технологии синтеза достигли того уровня, когда для клонирования вашей речи достаточно трех секунд записи вашего голоса из сторис или случайного видео в интернете. Нейросеть анализирует не просто звуковые волны, она строит математическую модель вашего речевого аппарата: как двигается ваш язык, как резонирует ваша гортань, как вы дышите. Она создает вашу цифровую марионетку. И эта марионетка может сказать что угодно: признаться в преступлении, которого вы не совершали, объявить войну, оскорбить близких, разрушить карьеру. Мы вступаем в эру, где видеодоказательства, которые раньше считались "золотым стандартом" истины в суде, превращаются в пыль. Видео, где человек берет взятку или совершает насилие, больше ничего не доказывает. Это может быть пиксельная галлюцинация, рожденная в недрах видеокарты за пару часов. И наоборот: реальный преступник теперь может, глядя в камеру, сказать: "Это не я, это дипфейк". И у общества возникнет сомнение. Это явление называют "дивидендом лжеца" – возможность отрицать реальность, ссылаясь на существование технологий подделки. Правда тонет в океане правдоподобной лжи.

Технически это работает через так называемые генеративно-состязательные сети (GAN). Представьте себе двух художников, запертых в одной комнате. Один – Фальсификатор (генератор), его задача – нарисовать картину, неотличимую от оригинала. Второй – Критик (дискриминатор), его задача – найти подделку. Они соревнуются миллионы раз в секунду. Фальсификатор рисует, Критик говорит: "Здесь тень падает неправильно". Фальсификатор исправляет, Критик говорит: "Здесь текстура кожи неестественная". С каждой итерацией, с каждым циклом обучения, Фальсификатор становится всё совершеннее, пока Критик не сдается и не говорит: "Я верю". В этот момент рождается дипфейк, способный обмануть человеческий глаз. Мы создали машины, которые обучаются обману с такой скоростью и эффективностью, которая нам и не снилась. И если раньше для создания качественного фейка нужны были голливудские студии и бюджеты, то сейчас это доступно любому подростку с мощным ноутбуком. Демократизация лжи – вот истинное лицо прогресса в этой области.

Но давайте заглянем глубже в психологию этого процесса. Что происходит с нами, когда мы видим дипфейк умершего родственника? Такие стартапы уже существуют. Они предлагают "оживить" фотографии ваших бабушек и дедушек, заставить их улыбаться, говорить заготовленные фразы. На первый взгляд, это кажется трогательным способом сохранить память. Но на глубинном уровне это нарушение священной границы между бытием и небытием. Это цифровой спиритизм, который не дает нам прожить горе, не дает отпустить. Мы цепляемся за синтетический призрак, подменяя живую память алгоритмической симуляцией. Я видел людей, которые часами разговаривают с чат-ботами, имитирующими их умерших партнеров, глядя на их анимированные лица на экране. Это не исцеление, это бесконечная ретравматизация, замкнутый круг иллюзии, который высасывает душу. Мы теряем способность принимать конечность жизни, а значит, перестаем ценить саму жизнь.

Опасность дипфейков не только в том, что они могут обмануть нас точечно. Опасность в создании атмосферы тотальной паранойи. Когда вы не можете верить новостям, когда вы не можете верить видеозвонку от начальника (потому что это может быть дипфейк в реальном времени, наложенный на лицо мошенника), вы начинаете замыкаться. Социальные связи распадаются. Общество атомизируется. Доверие – это клей, который держит цивилизацию вместе. Если растворить этот клей кислотой сомнения, конструкция рухнет. Мы рискуем вернуться в цифровое средневековье, где верить можно только тому, кого ты можешь потрогать рукой. Круг доверия сузится до физически присутствующих рядом людей. Глобальный мир, построенный на дистанционной коммуникации, окажется под угрозой. Зачем проводить зум-конференцию, если половина участников может быть ботами, а лицо генерального директора – маской? Мы будем вынуждены вернуться к личным встречам, к рукопожатиям, к обмену физическими токенами доверия.

И здесь мы подходим к инструментам защиты. Как выжить в мире кривых зеркал? Техническое решение – это гонка вооружений. Мы разрабатываем алгоритмы, которые ищут микроскопические несоответствия: отсутствие пульсации крови на лице (ведь реальное лицо слегка меняет цвет с каждым ударом сердца, чего пока не умеют делать дешевые дипфейки), неестественное моргание, рассинхронизацию звука и движения губ. Мы говорим о внедрении криптографических водяных знаков в камеры на уровне железа, чтобы каждое фото и видео имело цифровую подпись, подтверждающую его подлинность, время и место съемки. Блокчейн может стать нотариусом реальности, фиксируя неизменность контента от момента создания до момента потребления. Но техника всегда будет на шаг позади. Хакеры найдут способ подделывать и подписи, и пульс.

Настоящая защита – это апгрейд нашего собственного сознания. Это развитие "интуиции зловещей долины". Нам нужно научиться слушать свое тело. Наш мозг – это древний и мощный компьютер, который часто замечает фальшь быстрее, чем наше сознание. То странное чувство дискомфорта, холодок по спине, когда вы смотрите на вроде бы идеальное видео, но что-то "не так" – это ваш внутренний детектор. Не игнорируйте его. Мы должны выработать привычку верификации через контекст, а не через контент. Если вам звонит друг и просит денег, не верьте голосу. Спросите его о том, что знает только он. "Помнишь, как звали ту собаку, которая укусила меня в третьем классе?". Контекст сложнее подделать, чем биометрию. Мы должны создать "кодовые слова" внутри семей и команд. Пароль, который скажет ваш ребенок, если звонит с незнакомого номера и говорит, что попал в беду. Это звучит как шпионская игра, но это новая гигиена безопасности.

Кроме того, мы должны изменить свое отношение к информации. Презумпция истинности ("это правда, пока не доказано обратное") должна смениться презумпцией фейка ("это подделка, пока не доказана подлинность"). Это циничный, холодный взгляд, но он спасает. Когда вы видите сенсационное видео, вызывающее у вас сильную эмоцию – гнев, страх, жалость – остановитесь. Эмоция – это крючок. Дипфейки создаются именно для того, чтобы бить по эмоциям, отключая критическое мышление. Сделайте вдох. Проверьте источник. Поищите альтернативные ракурсы. Если событие реально, оно оставило следы в разных местах. Если след один – скорее всего, это мираж.

Я вижу будущее, где "чистая реальность" станет премиальным продуктом. Будут существовать закрытые социальные сети и новостные каналы, где каждый байт информации верифицирован, где доступ осуществляется по строжайшей биометрии (которую, впрочем, тоже придется постоянно совершенствовать), и за правду придется платить. Остальной интернет превратится в зону "свободного творчества", где правда и вымысел смешаны в неразделимый коктейль, и где каждый пользователь сам выбирает, в какую иллюзию ему верить. Это будет мир пост-правды в её абсолютном воплощении.

Но есть и светлая сторона. Технологии синтеза могут дать голос тем, кто его потерял. Люди с боковым амиотрофическим склерозом или после инсульта смогут говорить своим собственным, синтезированным голосом, а не роботом. Мы сможем создавать образовательный контент, где Эйнштейн лично объясняет теорию относительности, и это будет вдохновлять детей. Как и любая технология, дипфейк – это зеркало. Оно отражает того, кто в него смотрит. Если в него смотрит мошенник, он видит инструмент кражи. Если художник – инструмент творчества. Моя задача как футуролога – предупредить вас: зеркало разбилось. Осколки реальности лежат на полу, и мы должны научиться ходить по ним, не порезав ноги. Мы должны стать кураторами своей собственной реальности, жесткими редакторами входящего потока. Доверие больше не дается по умолчанию. Доверие нужно заслужить, проверить и перепроверить. И, возможно, в этом мире тотальной лжи мы наконец научимся ценить те редкие моменты настоящей, нефильтрованной, аналоговой искренности, когда мы смотрим в глаза другому человеку и точно знаем: это – правда.