Оглавление
Группа авторов. Конец индивидуума. Путешествие философа в страну искусственного интеллекта
Предисловие
Homo deus
1. Механический турок
От барона фон Кемпелена до компании Amazon
Реальность и ее копия
Не благодари робота
2. Миф о суперинтеллекте
Не бывает сверхинтеллекта без сверхорганизма
Здравый смысл – самая редкая вещь в мире (среди роботов)
Парадокс Поланьи
3. Принцип турникета
Наука против свободы воли
Универсальный nudge
Метаутилитаристский ветер
Сжечь человека
4. Разные следствия
Искусство без художников
Наука без причинности
Экономика без рынка
Правосудие без виновных
Общество без предрассудков
Права без демократии
Философия без субъекта
Теология без Бога
5. Геополитика ИИ
Китай, или Триумф Конфуция
Европа, или Самоубийство по заветам стоиков
США и агония протестантской морали
Цифровой империализм
6. Первая директива
Сражение за индивида
Свободный волитель и свобода воли
Сопротивление
В защиту права владения персональными данными
Манифест о Европе
Человек-зверь
Список интервью
Благодарности
Избранная библиография
Отрывок из книги
То, что моя книга выходит на русском языке в столь трагичный период европейской истории, кажется мне особенно важным. Я считаю, что вопреки глупости правящих элит мы должны поддерживать прямую связь между автором и читателем, связь человека с человеком, чтобы не утратить тонкую нить, соединяющую наши культуры и наши мысли.
Полевой этап моего исследования искусственного интеллекта стартовал в 2018 году. В такой динамичной области, где одна инновация стремительно сменяет другую, книга устаревает на следующий день после публикации. Преимущество философского подхода – в его аналитичности, и мои размышления пятилетней давности по-прежнему кажутся мне актуальными.
.....
Это рассуждение остается верным и в эпоху машинного обучения, достаточно лишь немного изменить эксперимент «китайской комнаты». Теперь нужно представить, как в комнату забрасывают не отдельные листы с иероглифами, которые можно связать друг с другом в соответствии с четко сформулированными правилами, а цепочки завершенных фраз на китайском, никак не связанных между собой. Сидя в этой комнате, вы должны были бы усвоить несколько миллионов таких фраз, пытаясь определить закономерности и корреляции между появлением того или иного иероглифа. Потом вы смогли бы, наконец, ответить на вопрос в письменном виде, подсчитав максимальную вероятность того, что такая-то последовательность иероглифов действительно имеет смысл. В рамках технологии обучения с подкреплением (reinforcement learning) вас могли бы бить по пальцам при всяком неправильном ответе и выдавать чашку риса в случае успеха, постепенно улучшая ваши навыки. Тем не менее вы все равно не сможете ни слова сказать по-китайски… Вот так же и компьютер, пусть даже после самого совершенного глубокого обучения, все-таки ничего «не понимает».
Как мы можем проверить эту философскую теорию? ИИ обладает определенным экспериментальным применением, в частности в шахматах. Джон Маккарти назвал их «дрозофилой ИИ» – по аналогии с той мухой, которую биологи постоянно используют в своих опытах, проверяя на ней тысячи теорий. Создать компьютер, способный победить гроссмейстера-человека, что якобы делал и механический турок, – вот как издавна представлялась главная цель в понимании процессов человеческого познания.
.....
