Читать книгу Защита от злоупотребления искусственным интеллектом и нейротехнологиями в аспекте медиабезопасности - Елена Александровна Антонян, Елена Александровна, Елена Александровна Величко - Страница 5

Анализ происходящих трансформаций социального бытия является обязательным условием эффективной реакции на них. Результаты комплексного исследования парадигмальных изменений информационной сферы общественной жизни, осуществленного с юридической и экспертной позиций, были приведены в ранее написанной авторами монографии[39]. Вместе с тем широта рассмотренной проблематики не позволила полностью сосредоточиться на вопросах изменения медиакоммуникации под влиянием ИИ и нейротехнологий; эти вопросы, на наш взгляд, заслуживают самостоятельного монографического исследования. Кратко изложим основные тезисы, описывающие цифровую медиасреду как часть информационного пространства, после чего сосредоточимся на предмете нашего исследования – влиянии вынесенных в заглавие технологий на информационно-коммуникативную деятельность, а также на ресурсы и инфраструктуру ее осуществления.

В настоящее время информационная деятельность главным образом осуществляется за счет использования технических средств (в первую очередь – обрабатывающих данные в цифровой форме), связанных друг с другом в сети и позволяющих распространять информацию среди неопределенного круга лиц. Элементы единой информационной среды (всей совокупности информации, информационных технологий и информационных систем) находятся в процессе постоянного преобразования и развития; возникают цифровая среда (часть информационной среды, представляющая собой совокупность информационных технологий и информационных систем, которые обрабатывают информацию, имеющую цифровую форму представления, а также содержащих такую информацию информационных ресурсов) и медиасреда (часть информационной среды, в которой информация вне зависимости от формы распространяется при помощи средств массовой информации и коммуникации, сокращенно – СМИ и СМК, реализованных на основе информационно-коммуникационных технологий – ИКТ).

Пересечение данных частей формирует цифровую медиасреду – наиболее динамичную и (к настоящему моменту) значимую с точки зрения эффективного осуществления информационной деятельности часть информационной среды, включающую в себя социальные сети (такие как «ВКонтакте», «Одноклассники» и др.), системы мгновенного обмена сообщениями – мессенджеры (Telegram, WhatsApp, Viber), иные ресурсы (форумы, видеохостинги, почтовые сервисы и т. д.).

Таблица 1

Медиасреда, ее составные элементы и основные акты ее нормативного правового регулирования

Большая скорость научно-технического прогресса в сравнении с прогрессом социальным приводит к тому, что у людей появляются технологии, к использованию которых они не в полной мере готовы, не полностью осознают все принципиально возможные последствия их применения. Взаимодействие через цифровые СМК чревато не только приятным времяпрепровождением, но и столкновением с агрессивной пропагандой, недостоверной информационной продукцией (фейками), диффамацией, мошенниками, неприятным и незаконным контентом; «сливом» персональных данных, «взломом» и кражей личных учетных записей (аккаунтов) и т. д. Поэтому вопрос информационной безопасности (и в особенности – медиабезопасности в цифровой среде) стоит достаточно остро.

Перечисленные выше элементы цифровой медиасреды – технологии Web 2.0, связанные с распространением в Интернете по сетевому принципу разнообразного по форме и содержанию пользовательского контента на бесплатных общедоступных платформах (в соцсетях, на форумах, хостингах и проч.)[40]; все это в первую очередь подразумевает обеспечение понимания информации человеком.

Однако в результате информационной деятельности в цифровой медиасреде произошел экспоненциальный рост объема данных: если на рубеже 2010-х гг. объем всей информации в Интернете оценивался примерно в 1 зеттабайт (триллион гигабайтов)[41], то к 2022 г. его объем возрос уже до 90 зеттабайт[42]. Исследователи отмечают, что около 90 % мировой информации, существующей сегодня, было создано за последние десять лет, и сохранение таких темпов приведет к катастрофическим последствиям: в масштабах нескольких столетий энергия, необходимая для поддержания процесса создания цифровой информации, сравняется со всей энергией, которая производится сейчас на Земле, а количество битов, созданных человеком, превзойдет количество атомов на Земле[43].

Для автоматизации работы с большими данными (будь то систематизированные датасеты или же просто совокупность пользовательских данных) хорошо подходят технологии самообучающегося ИИ, в основе построения которых – созданные в процессе машинного обучения искусственные нейронные сети. Вместе с тем данные технологии могут быть приложены к любой сфере, поэтому все, у кого есть такая возможность, занялись их внедрением (в немалой степени из-за боязни проиграть в конкурентной борьбе): к примеру, недавно в Японии разработали ИИ – цифрового посредника, который перерабатывает реплики разгневанных клиентов колл-центров, «подавляя» эмоции и делая их речь менее агрессивной[44]. Разработка и внедрение таких средств является важной частью Web 3.0 (наряду с децентрализацией и внедрением блокчейн-технологий), в котором обеспечивается взаимодействие между собой и понимание данных компьютерными системами.

Позволить себе создание и дальнейшее поддержание работоспособности собственных функциональных ИИ пока могут только государства и компании с объемным финансированием, так как для этого необходимо дорогостоящее и дефицитное обеспечение:

• программно-аппаратное: значительные вычислительные мощности (включающие в себя нейронные процессоры, также называемые ИИ-ускорителями) и специализированные программные средства, многие из которых являются закрытыми (их исходный код известен только автору или иному правообладателю и недоступен иным лицам) и проприетарными (требующими приобретения лицензии);

• кадровое: квалифицированные программисты и специалисты по прикладной и математической лингвистике, способные организовать качественное обучение нейросетей обработке естественного языка, а также работе с иными данными;

• информационное: программирование либо обучение ИИ подразумевает формирование его онтологии (условно – «картины мира»), выраженной в сформированной в процессе его разработки базе знаний. Для этого необходим специальный (предназначенный для обучения ИИ под решение конкретных задач, например, создание изображений), самостоятельно собранный либо приобретенный, массив (база) данных, который будет использоваться при программировании/обучении.

Все это в комплексе может рассматриваться как фактор «цифрового неравенства»; а учитывая, что ИИ является продуктом двойного назначения стратегического характера, отставание и просчеты в его разработке и использовании являются серьезной угрозой для национальной безопасности любой страны.

По результатам проведенного исследования представляется возможным заключить, что в настоящее время ИИ в цифровой медиасреде используется в следующих качествах:

• как поисковая система, использующаяся для агрегирования, систематизации, обобщения и анализа информации с указанием источников ее получения либо без оного (так называемый виртуальный ассистент);

• как участник коммуникации – виртуальный собеседник (чат-боты, в задачу которых входит поддержание беседы с целью выполнения каких-либо функций: развлекательной, консультационной, коммерческой и т. д.);

• как инструмент, предназначенный для обработки существующих и создания новых информационных продуктов в любой форме (генеративный ИИ);

• как инструмент обеспечения межкультурной коммуникации (переводчики на базе ИИ, способные обрабатывать информацию в различной форме и осуществлять синхронный перевод).

Сложные и дорогие ИИ, обученные на большом массиве данных (такие, как ChatGPT), универсальны и могут использоваться для всех целей, перечисленных выше; более бюджетные проекты, как правило, имеют конкретную специализацию, однако ввиду этого могут лучше справляться с решением узких задач (например, с переводом).

Как любой инструмент, технологии ИИ могут быть использованы для достижения как благих, так и предосудительных целей. Хотя разработчики и предпринимают меры по ограничению возможностей их применения в противоправных целях (к примеру, для поиска и анализа информации, оборот которой ограничен законом), способность ИИ к самообучению и постоянный «творческий поиск» злоумышленников приводят к возникновению и обнаружению новых способов взлома, обхода подобных программных ограничений – так называемых джейлбрейков (от англ. jailbreak – побег из тюрьмы).

Кроме того, важно отметить, что использование средств ИИ для парсинга сайтов (автоматического сбора и обработки данных с них) позволяет создавать наборы данных, которые в дальнейшем используются как для машинного обучения, так и для аналитической работы. Вместе с тем при таком сборе данных может быть нарушен закон (в случае сбора и агрегирования конфиденциальной информации или информации, запрещенной к обороту), прямо либо косвенно затронуты интересы физических или юридических лиц. Эффективность же таких технологий заставляет задуматься о рисках, которые влечет возможность быстрого сбора информации, например персональных данных или финансовой документации.

Деяния, совершаемые с использованием ИИ (в том числе генеративных), могут быть квалифицированы как преступления в соответствии со статьями Уголовного кодекса Российской Федерации; преимущественно речь идет о корыстных преступлениях (в первую очередь – мошенничестве) и преступлениях, связанных с незаконным (ограниченным или запрещенным) оборотом недостоверной и иной информации. Как можно заметить, этот перечень весьма объемный, и это без учета того, что генеративные нейросети могут быть элементом механизма иных преступлений (например, использоваться при подготовке или сокрытии убийств, террористических актов и т. д.), а также административных правонарушений и гражданских деликтов.

Исследования в области ИИ и нейротехнологий тесно связаны между собой, так как и первые, и вторые разрабатываются на материале исследований человеческого мозга. Параллельная работа над этими направлениями дает синергетический эффект: исследования мозга позволяют разрабатывать самообучающиеся нейронные сети, в перспективе (при должном объеме и продолжительности обучения) способные обрести разум, сравнимый с естественным, или даже превзойти его[45].

Таким образом, проблематика разработки ИИ и нейротехнологий тесно переплетена. Анализ нейросетей и процесса их функционирования[46] при наличии нейроинтерфейса «мозг – компьютер» (делающего возможной нейрокоммуникацию; в основе этих технологий лежит принцип прямого информационного воздействия на мозговые центры в обход органов чувств[47]) потенциально открывает возможности для непосредственного влияния на человеческий разум через цифровую медиасреду.

В различных прикладных научных исследованиях (в том числе связанных с созданием нейрокомпьютера[48]) ведутся работы по составлению карты мозга (в частности, в России получили широкую известность работы С. В. Савельева[49]); одним из возможных эффектов создания такой карты (в совокупности с моделированием нейропроцессов и анализом того, как информация кодируется и передается внутри естественных и искусственных нейросетей) может стать разработка искусственных каналов прямого взаимодействия мозга как с компьютером, так и с другим мозгом через сеть[50].

Поэтому следующим предполагаемым этапом после децентрализованного компьютерно-ориентированного интернета вещей Web 3.0 (деятельность которого напрямую связана с ИИ) является Web 4.0, иначе – Нейронет, в котором взаимодействие участников (человек – человек, человек – машина) будет осуществляться с помощью новых нейрокомпьютерных интерфейсов, в дополнение к традиционным методам, а сами компьютеры станут нейроморфными (похожими на мозг) на основе гибридных цифро-аналоговых архитектур; в 2015 г. Нейронет был включен в число ключевых рынков Национальной технологической инициативы[51]. В литературе отмечают, что ранее термин «Нейронет» был лишь калькой термина «нейросеть», однако теперь он обозначает коммуникационную среду следующего поколения, основанную на нейроинтерфейсах и новых протоколах опосредованного ими взаимодействия между людьми, коллективами, искусственными автономными агентами, системами работы с данными и объектами реального мира[52].

Для построения такой сети необходимо решить проблемы понимания мозга, создания специальных интерфейсов и сетевых протоколов. Как отмечается в литературе, «психофизиология вида Homo sapiens (реакции человека на цвет, цветовую гамму, частотный диапазон подаваемых сигналов, форму и другие перцептивно-эстетические параметры машины) определяется единообразием, но этнические или мировоззренческие картины мира разнятся. <..> Машинное смысловое пространство должно быть максимально дружественным для пользователя с любым уровнем технической подготовки, любого возраста и религиозной принадлежности»[53]. Решение инвариантности внутренней речи исследователи усматривают в гипотетически возможной «семантической паутине», представляющей собой некий единый, универсальный язык смыслов (с возможностью автоматизированного семантического перевода между этим языком и языком каждого отдельного мозга). Подобное предположение подразумевает необходимость установления семантических универсалий и их коррелятов в индивидуальных нервных системах.

Аналитики следующим образом описывают результаты разработки и внедрения таких технологий: «Главное отличие от нынешнего Интернета будет в том, что Нейронет начнет строиться на коммуникации уникальных нервных систем, по сути, без обязательного использования естественного языка. Скорее будут использоваться специальные уникальные языки, соединяющие „карты“ нервных систем – а значит, коммуникация станет происходить быстрее и точнее, в ней появится возможность „выражать невыразимое“, передавать непосредственно состояния. Можно будет „перегружать знания“ напрямую из одной нервной системы в другую, обмениваться не только вербальными, но и психоэмоциональными опытами и переживаниями, создавать друг у друга сложные и высоко реалистичные ощущения»[54].

Экономически, юридически и психологически к появлению Нейронета в описанном виде следует готовиться уже сейчас, так как понятно, что с высокой долей вероятности его возникновение является вопросом времени; даже названы приблизительные временные рамки этапов его развития[55]:

1. Первый этап (2015–2020 гг.) подразумевает неравномерное проявление отдельных эффектов и технологий с началом появления основных субъектов. До 2020 г. ожидается появление первых ростков будущей сети (пример – НейроЧат, социальная сеть на основе интерфейсов «мозг – компьютер» для людей с тяжелыми нарушениями речи и опорно-двигательного аппарата[56]), неравномерно возникающих в разных отраслях, проявления отдельных эффектов и технологий. Основные изменения сосредоточены и реализуются в таких областях, как медицина, безопасность и развлечения.

2. Второй этап (2020–2030 гг.) – этап параллельного и, вероятно, не связанного друг с другом проявления двух прототипов Нейронета. Во-первых, это пролог Нейронета – «биометрический веб»: «интернета биометрических вещей» (устройств, считывающих физиологические параметры человека) и Web 2.0+ практик, использующих биометрическую инфраструктуру. Во-вторых, речь о «коллаборационном Вебе» – системе взаимосвязанных порталов открытых сообществ, специализирующихся на разработке и использовании инструментов и практик коллективной деятельности; такая организационная модель способна вовлечь в упорядоченную целенаправленную коммуникацию человека с любыми компетенциями. Ключевыми игроками в первой отрасли с высокой вероятностью станут медицина, спорт, сферы развлечений, образования и услуг. Ключевыми игроками во второй – профессиональные сообщества, сообщества практик, сообщества практик на территориях. Кроме того, произойдет насыщение технологической линейки интерфейсов.

3. Третий этап (2030–2040 гг.) – полноценная реализация локальных прототипов Нейронета в статусе очагов, привязанных к отраслям или отдельным типам деятельности. Коммуникативная среда, основанная на протоколах прямого взаимодействия нервных систем (типа протокола «передачи мыслей» HTTP–2) и подразумевающая создание нейроколлективов, может появиться уже в ближайшие 10–15 лет. Важную роль в возникновении таких коллективов будет играть технология «экзокортекса» («внешнего мозга») – искусственных частей психики, поддерживаемых машинами и синхронизируемых с естественной психикой. Это могут быть, например, дополнительная внешняя память, «расширения» сенсорно-эффекторной системы, вспомогательные ментальные функции типа проведения сложных вычислений. По сути, нейроколлективы есть не что иное, как несколько человеческих психик, связанных экзокортексом в единый коллективный субъект. Техническая инфраструктура развивается в сторону прямой синхронизации живых систем, что позволяет моделировать и создавать «виртуальных сиамских близнецов». В нейроколлективах становятся возможны прямая передача опыта через сонастройку людей, создание искусственного опыта.

4. Четвертый этап (после 2040 г.) – Нейронет, выйдя за пределы очагов его использования, охватывает область коммуникаций целиком и превращается в массовый инструмент и цивилизационную инфраструктуру.

Таким образом, нейротехнологии и ИИ тесно взаимосвязаны, а их разработка и повсеместное внедрение приводят к невиданным ранее трансформации информационно-коммуникационной деятельности, совершенствованию инфраструктуры и появлению новых способов передачи информации. На порядки возросли объем и скорость обработки информации; появились искусственные субъекты информационной деятельности (пока не наделенные правосубъектностью ввиду недостаточного развития) – ИИ. Если ранее и сейчас основным инструментом коммуникации является речь, то в перспективе возможно возникновение средств невербальной коммуникации, буквально позволяющих обмениваться мыслями.

Хотя подобные перспективы способны вызывать энтузиазм, они также представляются поводом для серьезного беспокойства за конфиденциальность, мировоззренческую безопасность и когнитивный суверенитет пользователей. Анализ уже существующих информационных угроз медиабезопасности демонстрирует высокую степень их распространенности, разнообразия и общественной опасности; поэтому уже сейчас информационное оружие является эффективным и обязательным средством ведения текущих социально-политических конфликтов. Надо полагать, что с появлением доступа непосредственно к нервной системе пользователей данные угрозы еще более усугубятся (перспективы цифровой утопии и бессмертия могут обернуться цифровым заточением и рабством – более чем реальными).