Читать книгу Цифровой Левиафан: Как право приручает искусственный разум - Ар'лан ис'Дрекхэм - Страница 6

Здесь мы переходим от анализа к конструкции. Я предлагаю рассмотреть четыре возможных пути, от консервативного до футуристического, а затем представлю собственную концепцию, которую называю «цифровой эмиссар».

Сценарий 1. «Продолжаем делать вид» (Status Quo)

Суды и законодатели будут любой ценой подгонять ИИ под существующие категории. Если беспилотник сбил пешехода – отвечает владелец (как владелец источника повышенной опасности). Если нейросеть нарушила авторские права – отвечает разработчик. Это удобно, предсказуемо, но несправедливо. Это как судить лошадь за то, что она понесла, а не кучера, который не смог удержать вожжи. Проблема: с ростом автономности связь между действием ИИ и контролем человека становится все более призрачной.

Сценарий 2. «Электронное лицо» (Европейская модель)

В 2017 году Европарламент всерьез обсуждал резолюцию, предлагающую создать статус «электронного лица» для роботов. Идея: робот регистрируется, имеет свой «кошелек» (фонд), страховку, и отвечает самостоятельно. Если робот накосячил, потерпевший получает компенсацию из этого фонда, а владелец платит повышенные страховые взносы.

Так же, как акционеры не отвечают по долгам компании своим личным имуществом, владелец робота не отвечает всем своим состоянием. Ответственность ограничена фондом. Но кто будет пополнять этот фонд? Опять владелец. По сути, это лишь переупаковка страхования ответственности. Главная слабость: «электронное лицо» не может быть наказано уголовно. Оно не боится тюрьмы. А значит, для сдерживания опасных действий этот механизм слаб.

Сценарий 3. «Агент» (Обходной путь)

Вместо того чтобы наделять ИИ правами, право объявляет его цифровым агентом человека. Как в римском праве: раб не был субъектом, но через него совершались сделки, и ответственность ложилась на господина. Так и здесь: все действия ИИ автоматически считаются действиями его владельца или оператора. Это чисто техническое решение, которое спасает трансакции, но никак не решает проблему автономного причинения вреда. И главное – оно не дает ответа на вопрос: а что если у ИИ нет владельца? Децентрализованные автономные организации (DAO) управляются кодом. Кто тогда агент?

Сценарий 4. «Цифровой эмиссар» (авторская концепция)

Здесь я предлагаю выйти за рамки дихотомии «лицо/вещь» и обратиться к метафоре международного права.

Посол иностранного государства на вашей территории – это не гражданин вашей страны. Он не подчиняется вашим полицейским в полном объеме (дипломатический иммунитет). Но он и не безответственен. Если посол нарушил закон, его объявляют persona non grata, высылают, а его страна-донор несет международно-правовую ответственность. При этом у посла есть собственный статус, признаваемый всеми государствами.

Предлагаю ввести для ИИ статус «цифрового эмиссара» человека или корпорации. Что это дает?

1. Признание автономности: Мы не делаем вид, что ИИ – просто молоток. Он действует в рамках делегированных полномочий, но с определенной степенью свободы.

2. Ответственность через «высылку»: Если ИИ систематически нарушает правопорядок (например, распространяет запрещенный контент или нарушает ПДД), он может быть «выслан» – отключен от сети, лишен сертификата безопасности, «депортирован» из цифрового пространства.

3. Материальная ответственность донора: Как государство отвечает за своего посла, так и владелец (или разработчик) ИИ обязан создать компенсационный фонд. Но в отличие от простой страховки, здесь есть элемент дипломатической ответственности – репутационный риск. Если ваш «цифровой эмиссар» творит беспредел, вы теряете право его делегировать.

4. Уголовная ответственность: ИИ не сажают в тюрьму, но к нему применяют «цифровое наказание» – ограничение функционала, изъятие лицензии, принудительное «забывание» определенных данных. Это аналог ограничения дееспособности.

Эта концепция не требует наделения ИИ правами человека (на жизнь, достоинство), но дает ему правовую маску, за которой стоит реальный экономический и репутационный интерес контролирующего субъекта.