Читать книгу Цифровой Левиафан: Как право приручает искусственный разум - Ар'лан ис'Дрекхэм - Страница 4

Вся история права держится на бинарной системе. Все, что существует в правовом поле, – либо субъект (тот, кто имеет права и обязанности), либо объект (то, чем распоряжаются). Стул – объект. Человек, который на нем сидит, – субъект. Компания «Рога и копыта» – субъект, потому что она придумана людьми как «маска», за которой стоят реальные участники.

ИИ ломает эту бинарность с пугающей легкостью.

Представьте, что у вас есть кукла-чревовещатель. Она говорит голосом чревовещателя, двигается его руками. Это инструмент. Но если кукла вдруг начинает сама произносить фразы, которых чревовещатель не задумывал, и сама выбирает, кому пожать руку, а кого ударить, – кто она? Вещь, вышедшая из-под контроля? Или новое существо?

Правовые системы мира сегодня раскалываются на два лагеря:

· Объектный подход (преобладает): ИИ – это сложный, но все же объект. Как автомобиль. Если автопилот Tesla совершил ДТП, отвечает владелец. Просто потому, что больше не на кого повесить ответственность. Этот подход прост, но он слеп к автономии. Он заставляет нас наказывать человека за то, что он не совершал и не мог предотвратить.

· Субъектный подход (радикальный): наделить ИИ правосубъектностью. Сделать его «электронным лицом». В Европе уже звучали предложения создать статус «электронного лица» для сложных автономных систем. Но тут же раздался крик: «Вы хотите дать права роботам вместо людей? Вы что, собираетесь сажать алгоритм в тюрьму?»

Парадокс в том, что ни одна из крайностей не работает чисто. Если ИИ – просто вещь, то почему он принимает решения, которые меняют жизнь людей? Если ИИ – лицо, то где его имущество? Как заставить его выплатить компенсацию? Арестовать его процессоры? Это все равно что арестовать молоток за то, что он разбил окно.