Читать книгу Цифровой Левиафан: Как право приручает искусственный разум - Ар'лан ис'Дрекхэм - Страница 7

Чтобы убедиться, что вопрос не надуман, пройдемся по трем реальным (или очень близким к реальности) кейсам, которые сегодня не имеют решения.

Кейс 1: Беспилотник и «трамвайная дилемма»

Представьте, что беспилотный автомобиль движется по узкой горной дороге. Внезапно на дорогу выбегает ребенок. У машины есть выбор: сбить ребенка, свернуть в пропасть (погибнет пассажир) или резко перестроиться и столкнуться с мотоциклистом. Алгоритм делает выбор за доли секунды.

· Если алгоритм выбрал смерть пассажира, можно ли предъявить производителю обвинение в убийстве по неосторожности? Ведь алгоритм был спроектирован так, чтобы минимизировать общий ущерб, а не защищать конкретного владельца.

· Кто дал моральное разрешение на такое решение? Никто. Это чистый утилитаризм в коде.

Здесь статус «электронного лица» не поможет: фонд выплатит компенсацию, но вопрос уголовной ответственности (кто дал команду убить?) останется висеть в воздухе. Мой подход «цифрового эмиссара» требует, чтобы за каждым таким решением стоял суверен – человек или организация, которые несут репутационные риски. Если производитель закладывает в код утилитарную этику, он должен быть готов к уголовному преследованию за последствия, как если бы он сам сидел за рулем.

Кейс 2: Нейросеть как изобретатель

В 2020 году патентные ведомства США, Европы и Великобритании отклонили заявки, где изобретателем был указан ИИ DABUS. Формальная причина: изобретателем может быть только физическое лицо.

Но что, если DABUS создал лекарство от редкой болезни, которое никогда не пришло бы в голову человеку? Патент не выдан, значит, лекарство может использовать кто угодно, и у разработчика нет стимула инвестировать в клинические испытания. Мы лишаем общество инновации из-за юридического формализма.

В концепции «цифрового эмиссара» изобретение, созданное ИИ, могло бы патентоваться на имя владельца ИИ, но с обязательством раскрыть, что вклад ИИ был определяющим. Это похоже на институт «служебного изобретения»: работник создает изобретение на рабочем месте, патент принадлежит компании. Здесь ИИ – «цифровой эмиссар», работающий на компанию. Компания получает патент, но обязана указать в заявке, что технический результат достигнут с помощью автономной системы. Это сохраняет стимулы, не наделяя ИИ правами, но признавая его вклад.

Кейс 3: Децентрализованный автономный фонд (DAO) и кража

DAO – это организация, управляемая смарт-контрактами. Нет директора, нет юрлица в традиционном смысле. В 2016 году хакеры воспользовались уязвимостью в коде DAO и вывели криптовалюты на сумму более 50 млн долларов. Вопрос: кого привлекать к ответственности? Код написали разработчики, но они не контролировали его после запуска. Сообщество голосовало за изменения, но не за конкретную кражу.

Здесь традиционная субъектность бессильна. Если мы признаем DAO юридическим лицом, то можем «обанкротить» его, но преступники останутся безнаказанными. Если мы скажем, что DAO – это просто код, то пострадавшие инвесторы не получат ничего.

Решение через «цифрового эмиссара»: каждая DAO должна иметь «эмиссара» – человека или группу лиц, которые публично ассоциируются с ее запуском и несут субсидиарную ответственность. Не за каждый баг в коде, а за соблюдение базовых принципов безопасности. Это аналогично тому, как в морском праве капитан судна отвечает за судно, даже если оно идет в автономном режиме.