Читать книгу Защита от злоупотребления искусственным интеллектом и нейротехнологиями в аспекте медиабезопасности - Елена Александровна Антонян, Елена Александровна, Елена Александровна Величко - Страница 4

Нейротехнологии и ИИ являются одними из самых динамично развивающихся направлений науки и техники, которые способны радикально изменить представление о человеческих возможностях, улучшении качества жизни и развитии технологий. Эти области исследования объединяют достижения, прежде всего, в нейробиологии, информатике и машинном обучении. Рассмотрение основных направлений применения нейротехнологий и ИИ, возможность оценить их потенциал для решения актуальных задач, стоящих перед обществом, позволяет выявить те изменения, которые могут оказать наибольшее воздействие на общество, и предложить возможные пути их дальнейшего развития.

При рассмотрении нейротехнологий и ИИ следует отметить, что существует множество подходов к их внедрению, каждый из которых предполагает свой взгляд на развитие человеческого мозга и его поведение[26].

Тенденция внедрения нейротехнологий и ИИ проявляется повсеместно: ИИ анализирует угрозы безопасности для финансовых организаций, а нейросети – кредитную историю клиентов банковских структур; нейроинтерфейсы позволяют медицинским работникам проводить сложнейшие операции; университеты мира используют нейротехнологии для адаптивного обучения студентов; в московском метрополитене применяется система распознавания лиц для оплаты проезда, а Организация Объединенных Наций (ООН) исследует миграционные потоки с помощью автоматизированного анализа данных о геолокации мигрантов по всей планете[27].

Нейротехнологии и ИИ активно развиваются благодаря достижениям в области машинного обучения, глубоких нейронных сетей и анализа данных и все чаще используются в различных отраслях. Ежегодно рынок нейротехнологий и ИИ расширяется, предлагая новые возможности их применения как в медицине, так и в автоматизированных сложных производственных процессах. Такие корпорации, как Tesla и Google, уже активно применяют ИИ в целях повышения конкурентоспособности, что подтверждается достижениями в инновациях и коммерциализации внедряемых технологий. Нейротехнологии и ИИ становятся очень востребованными, о чем свидетельствует увеличение числа связанных с ними стартапов, а также объема инвестиций в них.

Воспользоваться результатами исследований в первую очередь стремятся государства, выступающие основными выгодоприобретателями. Они используют ИИ и нейротехнологии с целью решения самых разных задач, среди которых выделяются такие, как защита национальных интересов, улучшение ситуации, связанной с обеспечением кибербезопасности, и внедрение технологических разработок в экономику, что позволяет оптимизировать внутреннюю управленческую деятельность, а не только обеспечить защиту данных своих граждан и решить проблемы социального неравенства в доступе к новым технологиям. В современных условиях глобальной конкуренции ряд стран (США, Китай) ведут буквально технологическую гонку за лидерство, подчеркивая тем самым значимость нейротехнологий как некоего стратегического орудия. Искусственный интеллект оказывает сильное влияние на общественные институты; автоматизация большого количества рабочих мест приводит к необходимости переобучения сотрудников, адаптации бизнеса к изменениям рынка труда.

Используя ИИ и нейротехнологии, государства решают самые разные задачи – от обороны и разведки до управления экономикой (прогнозирования экономических кризисов, оптимизации самостоятельных систем и поддержки принятия решений). Большое внимание уделяется вопросам обеспечения информационной безопасности (противодействию взлому и неправомерному доступу к данным, использованию ИИ в ущерб государственным интересам).

Искусственный интеллект – комплекс технологических решений, имитирующий когнитивные функции человека (обучение, анализ информации, поиск решений, адаптация к новым условиям). Его отличие от традиционных программных решений заключается в способности самостоятельно обучаться и адаптироваться к меняющимся данным без использования заранее заданного алгоритма, что позволяет достигать тех результатов, которые либо сопоставимы с интеллектуальной деятельностью человека, либо даже превосходят ее. Искусственный интеллект представляет собой программу, с помощью компьютера имитирующую процесс мышления человека.

Основными компонентами (составляющими) ИИ являются:

• информационно-коммуникационная инфраструктура, представляющая собой совокупность программных средств, обеспечивающих сбор, хранение, обработку и передачу данных, что служит основой функционирования самых разных ИИ-систем;

• программное обеспечение и алгоритмы, которые ориентированы на методы машинного и углубленного обучения, позволяющие системе извлекать закономерности из данных и использовать их для принятия решений;

• сервисы по обработке данных и выработке решений, позволяющие интегрировать ИИ-системы в разнообразные процессы (анализ больших данных, автоматизацию бизнес-процессов, прогнозирование, оптимизацию).

Можно выделить следующие виды ИИ:

• ANI (узкий ИИ) – предназначен для решения конкретных задач (распознавания образов, перевода текста, игр и др.) и активно используется как в повседневной жизни (в виртуальных ассистентах [Siri, Alexa]), так и в рекомендательных системах (YouTube) и в автопилотных транспортных средствах;

• AGI (общий ИИ) – предполагает, что такие системы смогут выполнять любую интеллектуальную задачу, на которую способен человек;

• ASI (сверхинтеллект) – концепция, в соответствии с которой ИИ не только сравняется с разумом человека, но и сможет превзойти его по всем интеллектуальным способностям (возникает вопрос этики и безопасности в случае создания сверхинтеллекта).

Искусственный интеллект не только заменяет ручной труд или упрощает задачи, но и создает новые варианты развития общества и технологий, предоставляя возможности, ранее не доступные, для создания более эффективных интеллектуальных и автоматизированных систем. Так, ИИ активно используется при диагностике заболеваний на ранних стадиях, при разработке новых методов лечения. С помощью ИИ автоматизация обработки данных, прогнозирование рыночных тенденций и оценка рисков компании могут оптимизировать бизнес-процессы и увеличить доходы. Использование роботизированных систем с ИИ на производственных линиях повышает точность и уменьшает ошибки. Интеллектуальные транспортные и автопилотные системы, логистика с применением ИИ делают транспортные потоки эффективными и наиболее безопасными.

Нейротехнологии – технологии, которые используют или помогают понять работу мозга, мыслительные процессы и высшую нервную деятельность[28]. Сюда относятся как методы изучения функционирования мозга, так и разработки, направленные на усиление когнитивных способностей. В настоящее время нейротехнологии применяются в различных сферах: медицине, образовании, ИИ и др. Среди всех нейротехнологий можно выделить нейроинтерфейсы, которые позволяют напрямую взаимодействовать с устройствами через мозговую активность, систему обучения, анализирующие нейронные паттерны, и нейростимуляцию, используемую, например, в медицине при лечении различных форм расстройств (депрессии и др.). Технологии нейровизуализации (МРТ, ЭЭГ) дают возможность узнать работу мозга в реальном времени.

Таким образом, происходит объединение двух видов работ с мозгом: записи мозговой активности («чтения») и стимуляции определенных областей мозга для изменения его активности. Нейронная запись основана на технологии мониторинга электрической активности мозга при помощи электродов или других датчиков, что позволяет фиксировать и анализировать нейронные сигналы, давая возможность специалистам изучать, как мозг реагирует на внешние и внутренние стимулы. В свою очередь, стимуляция мозга обеспечивает воздействие на определенные нейронные сети с помощью электрических импульсов, что позволяет активировать или подавлять работу конкретных его участков. Если раньше нейронная запись и стимуляция применялись по отдельности, то сейчас многие интерфейсы «мозг – компьютер» (ИМК) способны не только считывать активность мозга, но и воздействовать на нее в режиме реального времени, позволяя тем самым создать замкнутую систему одновременного «чтения и записи», в которой мозг и устройство могут взаимодействовать с максимальной точностью и скоростью.

В связи с достаточно быстрым развитием нейротехнологий возникает вопрос об этических аспектах их использования, поскольку сам процесс вмешательства в работу мозга вызывает много вопросов относительно безопасности нейроинтерфейсов и возможных злоупотреблений. Возможна ли в будущем манипуляция сознанием человека или даже контроль над его действиями? Подобный вопрос требует разработки правовых норм, обеспечивающих баланс между использованием технологий и соблюдением прав человека. Тем не менее перспективы таких технологий обещают революционные изменения во многих сферах.

Нейротехнологии могут быть применены в самых различных областях деятельности человека, в значительной степени упрощая и улучшая результативность его работы. Развитие роботизированных сервисов, появление новых способов и методов машинного обучения, повсеместные внедрения ИИ приведут к исключению возможности появления ошибок, допущенных человеком, освободив его от рутинного труда, расширят возможности компьютерных систем и анализа данных (вычислительные возможности).

Нейротехнологии вместе с ИИ способны стать самыми передовыми технологиями современности, ценность которых заключается в том, что в эпоху развития ИИ они позволяют усилить естественный интеллект путем соединения его с искусственным в одно целое. Это открывает новые возможности для человеческой деятельности, где будет наблюдаться не только повышение производительности, но и улучшение качества жизни, что делает нейротехнологии и ИИ важным элементом будущего общества[29].

Группой сквозных технологий, которым отводится важное значение, признаны технологии ИИ. Важность ИИ подтверждается его возможностями в области автоматизации; его внедрение в производственные процессы способствует повышению производительности и улучшению качества продукции. Такие технологии открывают новые возможности для создания интеллектуальных систем, способных принимать решения и адаптироваться к изменениям в окружающей среде.

Создание Национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной Указом Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации», стало важным шагом к формированию государственной комплексной политики в данной области. Стратегия нацелена на создание условий для инновационного развития, внедрения технологий ИИ в различные сферы деятельности человека и обеспечения конкурентоспособности Российской Федерации на международном уровне.

Значимым шагом к тестированию новых подходов и решений в актуальных условиях является принятие Федерального закона от 24 апреля 2020 г. № 123–ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве»[30]. Закон определяет основные цели, задачи и принципы государственной политики в сфере технологий ИИ и, что не менее важно, устанавливает механизмы взаимодействия между государственными органами, бизнесом, научными учреждениями. Это позволило выявить лучшие практики и адаптировать их для дальнейшего применения в других регионах страны.

Внесение изменений в статьи 6 и 10 Федерального закона от 27 июля 2006 г. № 152 «О персональных данных» также подчеркивает важность защиты данных в условиях быстрого развития ИИ[31]. Только установление четких границ использования ИИ может обеспечить безопасность и конфиденциальность данных, задействованных системами ИИ.

Перечисленные нормативно-правовые акты положили начало формированию правового регулирования технологий ИИ в Российской Федерации. Они создали правовые границы, которые будут адаптироваться в зависимости от развития самих технологий. Если ИИ уже находится в поле правового регулирования, то другие сквозные технологии (блокчейн, квантовые вычисления) пока не обеспечены специальным правовым регулированием. Создание подобного правового вакуума может потенциально замедлить их внедрение в экономику и другие сферы страны.

В отношении большинства других сквозных технологий специальное правовое регулирование пока отсутствует. Вместе с этим Федеральный закон от 31 июля 2020 г. № 258 «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» предполагает создание правовых условий для ускоренного появления и внедрения новых продуктов и услуг применения цифровых технологий в разных сферах (технологий ИИ, нейротехнологий, цифровых двойников и т. д.). Данный Закон позволяет ввести экспериментальный правовой режим, то есть так называемое временное специальное регулирование в целях ускоренного внедрения результатов развития цифровых технологий на практике. Речь здесь идет в первую очередь именно о сквозных технологиях.

Такие сквозные технологии, как ИИ, большие данные, блокчейн (распределенные реестры), являются ключевыми элементами цифровой трансформации различных отраслей экономики и социальной сферы. Их потенциал для ускорения внедрения инноваций велик, однако в силу отсутствия постоянного правового регулирования могут возникать постоянные правовые и этические риски. В связи с этим введение экспериментальных правовых режимов позволит адаптировать существующие правовые нормы к новым условиям, подвергать тестированию инновационные технологии в реальных условиях без риска нарушения законодательства, а также создавать правовую базу для их дальнейшего полноценного внедрения.

Одной из важных задач такого подхода является обеспечение некоего баланса между балансом стимулирования инновационной активности и защитой прав участников рынка, включая и граждан, данные которых могут использоваться в ходе экспериментов. Введение временного правового регулирования направлено, с одной стороны, на поддержку бизнеса, а с другой – на защиту принципов безопасности и конфиденциальности данных.

Приведенный подход позволяет ускорить выход на рынок новых технологий, устраняя те преграды, которые связаны с бюрократическими и правовыми барьерами. Именно оптимизация способствует быстрому внедрению инноваций, что особенно важно в стремительно развивающейся сфере технологий ИИ. При этом необходимо учитывать, что ускорение выхода на рынок не должно влиять на снижение стандартов безопасности и защиты прав граждан. Здесь следует руководствоваться сохранением баланса между быстрым внедрением технологии и ее тщательной проверкой.

Безусловно, в будущем будет разработано более детальное правовое регулирование технологий, обеспечивающее гармоничное развитие ИИ с сохранением конкурентных преимуществ и соблюдением этических и правовых норм. Мы уже сейчас наблюдаем, как законодатель работает над созданием гибкой правовой среды, способствуя и инновациям, и защите интересов общества и отдельных его категорий граждан.

Развитие и использование технологий ИИ должны основываться на ряде ключевых принципов. В первую очередь речь идет о принципах, вытекающих из Национальной стратегии развития искусственного интеллекта: защиты прав и свобод человека, безопасности, прозрачности, технологического суверенитета, целостности инновационного цикла, наиболее эффективного использования технологий ИИ, поддержки конкуренции, открытости и доступности, преемственности, защищенности, достоверности исходных данных[32].

Ключевыми целями развития технологии ИИ в Российской Федерации, определенными с учетом перечисленных принципов, являются[33]:

• обеспечение роста благосостояния и качества жизни граждан. Технологии ИИ способны трансформировать различные отрасли экономики, делая услуги более качественными и доступными, что ведет к общему улучшению условий жизни, повышению уровня доходов и созданию новых возможностей для самореализации; это достигается за счет автоматизации процессов, повышения эффективности труда и улучшения доступа к таким жизненно важным услугам, как медицина, социальная поддержка и образование;

• обеспечение национальной безопасности и правопорядка. Технологии ИИ используются для повышения эффективности работы правоохранительных органов по предотвращению преступлений, обеспечению кибербезопасности и защите важных инфраструктур (современные технологии ИИ сегодня уже помогают выявлять потенциальные криминальные угрозы на самых ранних этапах, что способствует поддержанию стабильности и безопасности в государстве; успешно расследуются преступления прошлых лет). Внедрение ИИ в системы мониторинга, анализа данных и прогнозирования поможет минимизировать внешние и внутренние угрозы;

• достижение устойчивой конкурентоспособности в отечественной экономике. Инновационные технологии способствуют росту как уже сложившихся, так и новых отраслей экономики и стимулируют ее производительность. В будущем технологии ИИ могут стать двигателем экономического роста, помогая отечественным компаниям занимать лидирующие позиции на международном рынке, а само их развитие сможет укрепить позиции Российской Федерации как одного из лидеров в этой области, что положительно скажется на росте экспорта передовых решений и услуг. Со временем технологии на основе ИИ станут главным фактором роста экономика.

Включение нейротехнологий и ИИ в перечень важнейших, основных элементов цифровой трансформации отражает их исключительную роль в развитии национальной экономики и технологической независимости. Каждая из технологий, созданная на основе ИИ, направлена на решение критически важных задач, к числу которых относятся: обеспечение технологической независимости; развитие экспортного потенциала; достижение целей импортозамещения.

В 2019 г. была разработана Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект», в соответствии с которой выделяются семь субтехнологий, развитие которых и окажет высокий уровень влияния на технологическое лидерство[34].

Компьютерное зрение – технология ИИ, отвечающая за разработку систем, способных анализировать и интерпретировать визуальные данные. Компьютерное зрение находит применение в автоматизированных производственных процессах; диагностике, применяемой в медицине; при обеспечении безопасности и обороны; в системах автономного вождения на транспорте.

Рекомендательные системы и интеллектуальные системы поддержки принятия решений – технологии ИИ, оказывающие помощь в обработке больших объемов данных и предоставляющие пользователям или компаниям персонализированные рекомендации. Такие системы позволяют значительно повысить эффективность и точность принимаемых решений, например, при использовании онлайн-услуг, постановке диагнозов в медицине; в бизнес-аналитике.

Распознавание и синтез речи – технологии, отвечающие за создание технологий, позволяющих системам ИИ понимать и генерировать речь. Все чаще такие системы используются в виртуальных ассистентах, контактных центрах, устройствах с голосовым управлением и в различных интерактивных системах. Распознавание речи в нашей стране имеет особое значение в контексте развития технологий, поддерживающих национальные языки и культурные особенности.

Обработка естественного языка (NLP) – технологии, предназначенные для анализа, последующей интерпретации и генерации человеческой речи и текстов. В настоящее время они активно используются в чат-ботах, системах автоматизированного перевода, инструментах анализа больших объемов текстовой информации, что очень важно для улучшения взаимодействия между человеком и компьютером на естественном языке.

Современные технологии ИИ включают в себя разработку новых алгоритмов, подходов на основе моделирования в области машинного обучения и знание других технологий. Это содействует созданию таких технологических систем ИИ, которые будут способны решать самые сложные задачи.

Сегодня благодаря таким алгоритмам мы уже получили, например, технологии, которые направлены на разработку устройств, способных заменить или восстановить утраченную функцию организма (в медицине, например, благодаря таким технологиям созданы искусственные конечности с обратной связью, управляемые мысленными командами, что позволяет вернуть подвижность и качество жизни людям с инвалидностью).

Такие технологии, как нейроинтерфейсы, нейростимуляция и нейросенсинг, направлены на создание прямых связей между мозгом и внешними устройствами и предоставляют большие возможности в исследовании когнитивных процессов и даже в расширении человеческих возможностей путем мониторинга и анализа активности мозга в реальном времени.

Развитие технологий играет ключевую роль в создании инновационной экосистемы, которая способна будет обеспечить технологическую независимость Российской Федерации и продвижение ее на международный рынок, предоставит возможность занять на нем лидирующие позиции в области новых технологий. Что касается сквозных технологий, то они, обладая универсальными характеристиками, могут быть интегрированы в самые разные сферы экономики, медицины, образование, государственное управление. Наиболее активно используются технологии ИИ в государственном управлении, что объясняется необходимостью оптимизации процессов принятия решений в условиях координации действий различных органов. Самый низкий уровень использования сквозных технологий наблюдается в сфере строительства, что объясняется низкой активностью частного сектора и отсутствием инвестиций. При этом возможности технологий ИИ в сфере строительства имеются и могли бы быть направлены на улучшение управления проектами, автоматизацию процессов проектирования и строительства, повышение точности выполнения задач, что в итоге привело бы к сокращению затрат.

Основными заказчиками научно-исследовательских (НИР) и опытно-конструкторских работ (ОКР) в области сквозных технологий выступают государственные фонды и федеральные органы власти, что свидетельствует об активном участии государства в содействии переходу к цифровой экономике. Именно государственные инвестиции и поддержка призваны обеспечить стабильное финансирование ключевых направлений исследований и разработок, позволяющих России оставаться конкурентоспособной страной на международной арене. Такое государственное содействие осуществляется через различные программы и стратегии, включая Программу «Цифровая экономика Российской Федерации»[35] (далее – Программа), направленную на создание условий для развития цифровых технологий, на повышение уровня цифровой грамотности населения, укрепление позиций России в глобальной технологической гонке. Принятая Программа определяет своей целью обеспечение более активного использования сквозных технологий во всех отраслях экономики, включая и те, где уровень их применения остается заметно ниже (в строительной отрасли).

Широкие возможности и универсальность сквозных технологий позволяют им становиться уникальным и ключевым инструментом как для коммерческого, так и для государственного сектора, а активное участие государства в их развитии способствует переходу России к цифровой экономике, обеспечивая высокую конкурентоспособность на международном рынке и создавая условия для дальнейшего технологического прогресса.

Взаимосвязь ИИ и нейротехнологий находит свое выражение в их общей направленности, связанной с познанием и возможным моделированием интеллекта и работы мозга человека. Изучение и воспроизводство таких сложных когнитивных процессов, как восприятие, мышление, память и принятие решений, позволяет создавать технологии, применяемые для улучшения качества жизни и решения как технологических, так и социальных, медицинских задач.

Искусственный интеллект многими специалистами рассматривается как важный инструмент для изучения мозга. При этом современные ИИ-системы воспринимают результаты нейроисследований, так как обладают передовыми когнитивными и перцептивными способностями, максимально приближенными к возможностям биологических систем, что включает такие функции, как распознавание объектов, классификация данных и принятие решений. Примером здесь служит система распознавания лиц на базе машинного обучения и компьютерного зрения, позволяющая идентифицировать или подтверждать личность человека по его лицу.

Благодаря тесной связи ИИ и нейротехнологий появляются новые методы исследования мозга и технологические решения, которые помогают лучше понять когнитивные процессы человека. Развиваются нейроинтерфейсы, позволяющие осуществлять взаимодействие между мозгом человека и внешними устройствами: инвазивные (внедряемые непосредственно в организм) нейроинтерфейсы используются для управления протезами конечностей, лечения тяжелых заболеваний (эпилепсии, болезни Паркинсона), а неинвазивные (используемые без такого внедрения) – в создании систем управления компьютерными устройствами или роботами с помощью мозговых сигналов, что позволяет улучшить качество жизни людей с ограниченными возможностями.

Примером инвазивных технологий являются чипы-импланты, которые вживляются в мозг с целью прямого взаимодействия с нейронной сетью. Такие чипы-импланты[36] позволяют мозгу напрямую управлять внешними устройствами, используя нейронные сигналы. Примером неинвазивных методов являются очки виртуальной реальности (VR)[37], которые взаимодействуют с мозгом через визуальные и сенсорные стимулы. Они активно применяются, с одной стороны, в развлекательной индустрии, образовании, в спорте при тренировках, а с другой – в медицине, в частности в терапии. Так, VR-очки могут использоваться для реабилитации пациентов с двигательными нарушениями или лечения посттравматического стрессового расстройства.

Большое количество нейротехнологий в настоящее время охватывают много направлений, которые могут взаимодействовать с человеком на совсем новом уровне – от восстановления когнитивных функций до разработки интеллектуальных систем.

Под нейротехнологиями и нейроинтерфейсами традиционно понимают интерфейс «мозг – компьютер» (BCI) – устройство, с помощью которого используется нейронная активность мозга для установления прямой связи с внешними исполнительными механизмами. Основная идея такого интерфейса «мозг – компьютер» заключается в регистрации нейронных сигналов и их преобразовании в команды для управления различными устройствами: от компьютерных программ до роботизированных систем.

Нейротехнологии и ИИ представляют собой мощные инструменты, оказывающие в современном мире значительное влияние на различные сферы человеческой жизни. Их активное внедрение в образование, медицину, экономику открывает новые возможности для повышения эффективности, улучшения качества жизни и обеспечения безопасности государства и общества. Их применение не только помогает решать сложные задачи в области медицины, образования, экономики, но и открывает перспективы для создания новых форм взаимодействия между человеком и машиной.

Интерес к сквозным нейротехнологиям со стороны частных компаний и государства способствует проведению более профильных изысканий (что и делалось в последние несколько лет) благодаря, например, таким программам, как BRAIN Initiative, организованной в США в 2013 г. в рамках изучения мозга посредством инновационных технологий, или Human Brain Project, созданной странами Европейского союза. Подобные проекты позволяют внедрять нейротехнологии практически в любую сферу жизни общества. Их необходимость и популярность объясняется тем, что с каждым годом растет политическая воля различных субъектов государственного управления. Техногенные катастрофы, эпидемии новых вирусов, старение населения и другие факторы обуславливают повышенный интерес человека к цифровым технологиям как средству решения многих проблем.

Основными направлениями дальнейшего развития нейротехнологий и ИИ становятся их интеграция в социальные и экономические процессы и разработка стандартов, которые бы гарантировали безопасное и эффективное использование данных технологий. Технологиям ИИ придается особая значимость для разработки и внедрения механизма их правового регулирования на данный момент. По мнению представителей исследовательских центров США, Великобритании, Швейцарии, Франции, Италии, иных стран, этические и правовые последствия начинающейся революции в области нейротехнологий должны рассматриваться превентивно[38].