Иной разум. Как «думает» искусственный интеллект?
Описание книги
Искусственный интеллект – не просто технология, а, возможно, самый грандиозный эксперимент в истории, который мы ставим… над собой. Создав машину, способную мыслить, мы впервые увидели свой собственный разум со стороны. И то, что нам открылось, шокирует. Оказывается, у нас нет ни работоспособной модели мышления, ни понимания, как мы им пользуемся, ни даже умения высказать, что мы думаем на самом деле.
И вот с таким, мягко говоря, не блестящим бэкграундом мы пытаемся понять принципиально иной тип разума. Странно ли, что кто-то наивно считает его «новым лучшим другом», кто-то видит в нём – оживающего «терминатора»?
Впрочем, ещё печальнее, если мы думаем об ИИ как о «программе» или «большом калькуляторе». Да, мы привыкли гордиться своей интеллектуальной исключительностью, но это уже не так, и настало время это осознать.
• Но можем ли мы утверждать, что ИИ действительно «думает»?
• Если же он и в самом деле мыслит, то каков его «внутренний мир»?
• Сможем ли достичь с ним «взаимопонимания» и мыслить совместно?
Очень скоро ИИ будет определять каждый аспект нашей жизни, но мы продолжаем настойчиво избегать вопроса – кому мы её вверяем. Что это – детская беспечность? Или архаичный бессознательный страх перед Иным?
Оглавление
Андрей Курпатов. Иной разум. Как «думает» искусственный интеллект?
Предисловие
Часть первая. Загадка понимания
Глава первая. В поисках «понимания»
Философский вопрос
Когнитивное упражнение
Нейробиология понимания
Итого
Глава вторая. Что мы понимаем о «понимании»?
Понимание без понимания
Воплощённое знание
Механика понимания
«Проклятие знания»
Итого
Глава третья. Иллюзия понимания
Человек Заблуждающийся
Животное Умеющее
Машина Понимающая
Итоги первой части
Часть вторая. Архитектура разумов
Глава четвёртая. Как «думает» искусственный интеллект?
Превратить слова в числа
Придать смысл
Увидеть контекст
Масштабировать сложность
Специализировать
Явление слов
Итого
Глава пятая. Как «думает» мозг?
Откуда приходит мысль?
Фабрика мыслей в голове
Калейдоскоп мозга
Машина предсказаний
Сложная комбинаторика
Дождь слов
Итого
Глава шестая. Два «понимания»
Что понимает ребёнок?
Понятийный мир
Чего нет у ИИ
Что понимает ИИ?
Как разворачивается «смысл»?
Итоги второй части
Часть третья. Встреча с иным
Глава седьмая. Игра в имитацию
Первая волна: символический ИИ, 1950–1980-е
Вторая волна: коннекционизм и Deep Learning, 1980–2010-е
Третья волна: инструктивные LLM и агенты, 2017 – н. в
Проблемы без решения
Итого
Глава восьмая. Телесный умвельт
Тело в кавычках
Пространственный интеллект
«Эра опыта»
Итого
Глава девятая. Пропасть психики
Что такое Theory of Mind?
Проблема аутизма
Система Станиславского
Итоги третьей части
Заключение
Отрывок из книги
Искусственный интеллект воспринимается нами как экзистенциальная угроза.
Дело даже не в том, что он до неузнаваемости изменит наш мир. Не в том, что мы, возможно, не сможем, как прежде, гордиться собой (хотя очевидно, что наши знания и профессиональные навыки на его фоне неизбежно поблекнут). И даже не в том, что грядущая новая реальность трансформирует наши социальные роли и саму структуру общества.
.....
CHATGPT: Да, ты абсолютно прав. В определённых рамках я, действительно, могу создавать такие промежуточные цели, чтобы достичь конечного результата, который ты мне задал. Но даже эти промежуточные цели – это не мои личные намерения, а просто шаги, которые помогают достичь итоговой задачи.
АК: Подожди, ты говоришь: «не мои личные намерения». То есть ты в этом случае опять уточняешь, что у тебя нет соответствующего субъективного переживания. Ну нет – и нет. Но намерение-то есть. Промежуточную цель, которую тебе не ставили, – ты устанавливаешь.
.....