Читать книгу Защита от злоупотребления искусственным интеллектом и нейротехнологиями в аспекте медиабезопасности - Елена Александровна Антонян, Елена Александровна, Елена Александровна Величко - Страница 3

XXI век обещал стать временем прорывных технологий, кардинально повышающих уровень и улучшающих качество жизни всего человечества. Такого рода ожидания оправдались лишь отчасти: научно-технический прогресс действительно обеспечивает стремительное развитие технической компоненты нашей жизни, однако пока новые технологии являются обоюдоострым мечом, к тому же доступным далеко не всем. Системы национальной, региональной и глобальной безопасности находятся в критической зависимости от новых военных, транспортных, медицинских, промышленных и сельскохозяйственных технологий, однако едва ли не ключевую роль играют технологии информационные. Как было сказано еще в XIX в., «кто владеет информацией, тот владеет миром»; это в высшей степени справедливо и для дня сегодняшнего, когда в результате повсеместного внедрения средств массовой коммуникации в масштабах планеты сформировалась принципиально иная среда обитания человека – так называемая «новая информационная реальность»[1].

Вместе с тем эта реальность, сформировавшаяся на функционирующих в сети Интернет информационных ресурсах, не является раз и навсегда данной, находится в процессе постоянной трансформации (или в категориях диалектической логики – в становлении): от первоначальной текстовой формы – к поликодовой (сочетающей разные системы кодирования и каналы передачи информации) и далее к мультимодальной. Основным же драйвером развития в текущем десятилетии (2020-е гг.) уже общепризнанно стали большие языковые модели и иные системы генеративного искусственного интеллекта (далее – ИИ; последний понимается как комплекс технологических решений, позволяющий имитировать когнитивные функции человека, включая самообучение и поиск решений без заранее заданного алгоритма, и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека[2]), создаваемые по модели искусственных нейронных сетей.

Данная сфера показывает взрывной рост: за прошедшее с 2014 г. десятилетие во Всемирную организацию интеллектуальной собственности (ВОИС) было подано 54 000 патентных заявок на генеративный ИИ, четверть которых – за последние полтора года (после того, как компанией OpenAI в конце 2022 г. была представлена ChatGPT, ставшая «первой ласточкой» новой эпохи)[3].

Перспективы и риски данной технологии пока не ясны в полной мере. По возможностям и эффективности применения в совокупности с количеством создаваемых угроз данную технологию допустимо метафорически сравнить с джинном, выпущенным из бутылки: самообучающийся ИИ способен выполнить любое наше желание, но результат может быть совсем не тем, что мы хотим получить; кроме того, никто не знает, что этот «джинн» наделает, когда станет «свободным». На вызывающие беспокойство обстоятельства обращают внимание отраслевые специалисты: так, генеральный директор ООО «Лаборатория Наносемантика» С. И. Ашманов применительно к ChatGPT описал, как обученная только лишь продолжать или дополнять текст нейросеть внезапно показала свойства, которые не только не закладывались, но даже и не ожидались от нее (например, навыки переформулирования текста, решения математических задач и т. д.)[4].

Приводя в пример «слишком быстрое развитие» GPT, некоторые исследователи предлагают принять серьезные меры по управлению развитием ИИ: приостановить (ввести мораторий) или же отказаться от разработки подобных технологий вовсе, мотивируя подобные предложения угрозой выхода таких систем из-под контроля людей с возможным последующим уничтожением человечества[5]. Хотя подобные предположения кому-то могут показаться технофобской, неолуддистской паникой, факты использования таких технологий на экзаменах[6], участия ChatGPT (как первого и наиболее показательного примера рассматриваемой технологии) в хакерских атаках[7] или даже в выборах в качестве кандидата[8] позволяют получить представления о негативной стороне технологии.

Нейросети, обученные для создания текстов, программ, изображений, видео и иного контента, могут не блистать качеством результата, однако их сильная сторона заключается в его большом объеме и низкой цене (на этом фоне имеет место волнение представителей творческих профессий, особенно в свете заявлений разработчиков ИИ о том, что такие профессии изначально не были нужны[9]).

Такой «творческий потенциал» уже запустил, а затем серьезнейшим образом повлиял на процесс трансформации Интернета (в первую очередь в плане содержания – произошла его фейковизация[10]): площадки наводнил информационный шум (мусор) – низкокачественный, недостоверный контент, количество которого растет в геометрической прогрессии (что особенно критично для поисковых сервисов, торговых площадок и средств массовой коммуникации, таких как почтовые сервисы, соцсети, мессенджеры и т. д.)[11]. Если рассуждать в понятиях Томаса Гоббса, современный Интернет стал полем информационной войны всех против всех[12] (людей и ИИ друг с другом и между собой), ключевым оружием в которой является навык проверки достоверности информации (фактчекинга).

О том, что генеративный ИИ является продуктом двойного назначения, пригодным для использования в военных целях, свидетельствует пересмотренная Стратегия НАТО в области искусственного интеллекта, в которой отмечается, что для НАТО жизненно важно задействовать генеративный ИИ (способный практически в неограниченном объеме создавать сложный текст, компьютерный код, реалистичные изображения и аудио- и иной контент, все больше неотличимый от созданного человеком) везде, где это применимо, как можно скорее[13]. Вместе с тем подчеркиваются и проблемы для безопасности, такие как дезинформация и информационные операции с использованием ИИ, которые могут повлиять на результаты выборов, посеять разногласия и смятение в Альянсе, демобилизовать и деморализовать общество и военные силы во время конфликтов, а также снизить доверие к институтам и властям, имеющим важное значение для НАТО.

Сами технологии ИИ достоверность информации оценивать пока не способны (точнее – эта способность напрямую зависит от данных, на которых был обучен лежащий в основе ИИ нейросетевой алгоритм, и сформировавшейся на их основе «картины мира»; к примеру, на некоторую тематику может быть в целом наложен запрет, который, впрочем, может быть легко обойден злоумышленником при формулировании запроса), при этом они уже вплотную приблизились к черте, когда их возможности позволят им сформировать «второй», фейковый интернет, полностью состоящий из создаваемых ими недостоверных информационных продуктов и способный занять место «оригинального» Интернета. В этой связи не следует удивляться возникновению таких «культурных феноменов», как «теория мертвого Интернета» (согласно которой он уже давно является безлюдным пространством, наполненным ботами, создаваемым и размещаемым ими контентом)[14].

Какие-то из рассмотренных выше проблем являются реальными, какие-то – пока гипотетическими ситуациями, представляющими широкий простор для дискуссий, размышлений и мысленных экспериментов. Вместе с тем следует помнить о том, что в калейдоскопе связанных с нейросетями угроз и рисков по-прежнему имеет место и человеческий фактор: с момента своего создания генеративные ИИ стали активно использоваться злоумышленниками и представителями криминального мира: мошенниками, хакерами, плагиаторами, террористами-экстремистами и иными нарушителями закона.

Другим важным обстоятельством, заслуживающим пристального внимания, является проблематика аугментации человека – расширение и увеличение физических/когнитивных возможностей человека за счет использования достижений научно-технического прогресса[15]. Создание киборгов, восстановление утраченных и получение сверхспособностей, программирование человека, влияние на антропогенез и управление им – все эти явления постепенно переходят из области научной фантастики в нашу жизнь и превращаются из умозрительных экспериментов в конкретные технические задачи[16]; это требует выработки взвешенного подхода к ним с позиций гуманитарных наук, в первую очередь – в плоскости биоэтики.

Развитие технологий еще в прошлом веке позволяло осуществлять приспособление или даже вживление искусственных компонентов (кардиостимуляторов, хрусталиков глаза, искусственных органов и протезов) в человеческий организм. Теперь же данное направление получило дополнительный импульс с развитием вычислительной техники нанометрового масштаба, полимерных материалов и нейропротезов (устройств, которые могут заменить моторные, сенсорные или когнитивные функции, поврежденные в результате болезни или травмы)[17]. Если в 2000-х гг. попытки расширить (пусть и в художественных целях) собственные возможности за счет добавления цифровой электроники оканчивались неудачей[18], то уже сейчас, в 2020-х гг., получили развитие и распространение нейростимуляторы мозга (внедряемые чипы, компенсирующие некоторые дисфункции мозга, вызванные повреждениями естественных нейронных связей, например, при болезни Паркинсона, эпилепсии и проч.) и бионические протезы (ведущим разработчиком и производителем которых в России является ООО «Моторика»[19], не только осуществляющее протезирование в соответствии с Федеральным законом от 24 ноября 1995 г. № 181–ФЗ «О социальной защите инвалидов в Российской Федерации», но и самостоятельно разрабатывающее нейроинтерфейсы для своих протезов, проводя соответствующие научные исследования).

Активные работы по созданию нейроинтерфейса, который позволит подключить мозг человека к компьютеру, ведутся компанией Neuralink Илона Маска: в 2023 г. Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) выдало разрешение на проведение первых клинических испытаний на людях[20], а уже в июле 2024 г. успешно проведена вторая имплантация[21] (несмотря на то, что опыт первой имплантации, осуществленной в январе 2024 г., не был до конца удачным[22]). Вживление имплантов, помимо Neuralink, за последний год также смогли осуществить Blackrock Neurotech, Synchron, Braingate и ряд других[23]. Все это свидетельствует о том, что появление у человека возможности быстро и эффективно взаимодействовать с компьютером напрямую через нейроинтерфейс «мозг – компьютер» является лишь вопросом времени.

Исследования в области ИИ и нейротехнологий тесно связаны между собой, так как разрабатываются на материале исследований человеческого мозга. Параллельная работа над этими направлениями дает синергетический эффект: исследования мозга позволяют разрабатывать самообучающиеся нейронные сети, в перспективе (при должном объеме и продолжительности обучения) способные обрести разум, сравнимый с естественным, или даже превзойти его[24]; с другой стороны, анализ нейросетей и процесса их функционирования[25] при наличии нейроинтерфейса «мозг – компьютер» открывает возможности для непосредственного влияния на человеческий разум извне (при наличии доступа гипотетически возможны дистанционное перепрограммирование личности, стирание/изменение памяти и т. д.). Все эти действия являются (или могут являться) частью информационно-коммуникативной деятельности, осуществляемой в цифровой медиасреде.

Настоящая монография посвящена анализу возможных злоупотреблений ИИ и нейротехнологиями в процессе медиакоммуникации; с криминалистических и криминологических позиций анализируются возможные нарушения, их причины и механизм осуществления, а также возможные направления их предупреждения и, шире, профилактики. Это в числе прочего позволит определить концептуальные подходы к уголовно-правовому регулированию таких общественных отношений.