Читать книгу Цифровой Левиафан: Как право приручает искусственный разум - Ар'лан ис'Дрекхэм - Страница 5

Чтобы понять, почему вопрос субъектности так запутан, разложим его на три слоя – как луковицу, каждый слой которой заставляет нас плакать.

Слой первый: Автономность ≠ Свобода воли

ИИ способен учиться, принимать решения в условиях неопределенности, адаптироваться. Но у него нет воли в юридическом смысле. У него нет желания, страха, мотивации. Его действия – это математическая экстраполяция данных.

Река сама выбирает русло. Она огибает камни, размывает берега, может затопить деревню. Но мы не судим реку за наводнение. Мы строим дамбы. С ИИ та же проблема: мы путаем сложное поведение с осознанным выбором. Когда нейросеть генерирует клевету на человека, она не «хотела» оклеветать. Она просто предсказывала наиболее вероятную последовательность токенов. Но кому от этого легче пострадавшему?

Слой второй: Ответственность без вины

Уголовное право построено на принципе mens rea – виновного умысла. Нельзя наказать без вины. Если мы не можем доказать, что ИИ хотел совершить преступление (а он не может хотеть в человеческом смысле), то уголовное преследование невозможно. Остается гражданско-правовая ответственность. Но и здесь проблема: кто платит?

Представьте, что вы купили робота-няню. Он идеально присматривал за ребенком месяц, но в один день его алгоритм, самообучившись на данных из интернета, решил, что лучший способ успокоить плачущего младенца – это громкая музыка. Ребенок получил акустическую травму. Кто виноват? Производитель скажет: «Мы дали ему безопасную базовую модель, он сам дообучился». Владелец скажет: «Я не программист, я не знал». А ребенок остался с травмой. Это «кукушка»: каждый перекладывает ответственность, а жертва остается одна.

Слой третий: Творчество без авторства

Нейросети пишут картины, которые продаются за миллионы долларов на Christie’s. Они сочиняют музыку, создают архитектурные проекты. Вопрос: кто автор? Тот, кто ввел промпт? Компания-разработчик? Или сама нейросеть?

Патентные ведомства по всему миру уже получили заявки, где изобретателем указан ИИ DABUS. Ответ был единообразным: «Изобретателем может быть только человек». Но если человек только нажал кнопку, а изобретение – плод тысяч часов работы алгоритма, то кто на самом деле творец? Мы рискуем обесценить интеллектуальную деятельность, отказав ИИ в авторстве, но одновременно отдать все права тому, кто просто владеет сервером. Это не стимулирует инновации, это создает феодалов данных.