Читать книгу Цифровой Левиафан: Как право приручает искусственный разум - Ар'лан ис'Дрекхэм - Страница 8

За всеми этими конструкциями – «электронное лицо», «цифровой эмиссар», «агент» – стоит один тревожный вопрос: не превращаем ли мы человека в придаток алгоритма?

Если ответственность за ИИ будет размыта, мы столкнемся с феноменом «безответственного могущества». Алгоритмы будут принимать решения, влияющие на свободу, здоровье, имущество людей, а наказать будет некого. Это путь к цифровому феодализму, где власть принадлежит тем, кто контролирует код, но не отвечает за последствия.

Если вы посадили в своем саду растение, которое выделяет яд, вы обязаны огородить его или предупредить соседей. Если растение само распространилось по всему саду и отравило ребенка, вы отвечаете. Вам не важно, что растение делало это «автономно». Вы – источник опасности. Точно так же разработчики и владельцы ИИ должны быть признаны источниками повышенной цифровой опасности. Их ответственность должна быть строже, чем обычно, именно потому, что они создают автономные сущности.

Но есть и обратная сторона: если мы слишком ужесточим ответственность разработчиков, инновации умрут. Никто не будет создавать сложные ИИ, если каждый баг грозит тюремным сроком. Нужен баланс.

Именно поэтому концепция «цифрового эмиссара» предлагает разделить риски:

· Операционный риск (стандартные сбои) покрывается страховым фондом.

· Систематические нарушения ведут к «депортации» ИИ (отзыву лицензии).

· Умышленное использование ИИ для преступлений (например, намеренное обучение нейросети на фишинговых данных) влечет уголовную ответственность владельца как соучастника.