Оглавление
Сьюзан Шнайдер. Искусственный ты. Машинный интеллект и будущее нашего разума
Введение
Машины, обладающие сознанием?
Можно ли слиться с ИИ?
Глава 1. Век ИИ
Сингулярность
Ошибка Джетсонов
Трансгуманизм
Небольшое предостережение
Глава 2. Проблема искусственного сознания
Сознание искина и трудная проблема
Биологический натурализм
Технооптимизм в отношении машинного сознания
Процедура омоложения вашего мозга
Что это все значит?
Глава 3. Проектирование сознания
Исчезновение потребности в сознании
Отказ от сознания ради удешевления системы
Проектирование сознания: кошмары из сферы связи с общественностью
Проектирование сознания: безопасность ИИ
Слияние человека и машины
Глава 4. Как поймать ИИ-зомби: тесты для выявления сознания у машин
ACT-тест
Примерные вопросы ACT-теста
Тест на пригодность чипа
Общая информационная теория сознания (ОИТС)
Принцип предосторожности и шесть рекомендаций
Исследуем идею слияния разума и машины
Глава 5. Могли бы вы слиться с ИИ?
Что такое личность?
Может быть, вы – шаблон программы?
Глава 6. Сканирование разума
Каков же выход?
Смерть или личностный рост?
Как избавиться от субстрата?
Метафизическое смирение
Глава 7. Вселенная сингулярностей
Постбиологический космос
Проблема контроля
Active SETI
Сверхразумное сознание
Сверхразум на основе биологического образца
Глава 8. Действительно ли разум – это программа?
Разум как программное обеспечение мозга
Психофизическая проблема
Панпсихизм
Субстанциальный дуализм
Физикализм (или материализм)
Дуализм свойств
Идеализм
Оцениваем программный подход
Может ли лейтенант-коммандер Дейта быть бессмертным?
Может быть, разум – это реализация программы?
Представление о разуме как о программной реализации
Подход к разуму как к программной реализации
Реки, потоки и личности
Возвращаясь в Alcor
Заключение: Послежизнь мозга
Приложение
Трансгуманизм
Декларация трансгуманизма
Благодарности
Литература
Отрывок из книги
Представьте, что на дворе 2045 год и вы отправляетесь за покупками. Ваша первая остановка – Центр конструирования разума. Вы входите и видите большое меню с причудливыми названиями, за каждым из которых кроется то или иное расширение возможностей мозга. «Коллективное сознание» – это чип для мозга, позволяющий воспринимать самые потаенные мысли близких людей. «Сад дзен» – микрочип, позволяющий не хуже мастера дзен входить в состояние глубокой медитации. «Живой калькулятор» обеспечит вам математические способности едва ли не гениального уровня. Выбрали бы вы что-нибудь такое и если да, то что именно? Повышенную внимательность? Музыкальные способности, как у Моцарта? Можно заказать одно улучшение, а можно сразу комплект.
А потом вы идете в магазин андроидов. Пора обновить андроида для ведения домашнего хозяйства. Набор видов искусственного интеллекта (будем называть их искинами) обширен и разнообразен. Одни искины позволяют воспринимать или чувствовать то, что людям недоступно, другие обеспечивают связь с базами данных всего интернета. Вы выбираете то, что нужно вашей семье. Весь день у вас уходит на выбор искинов-помощников и конструирование собственного разума.
.....
На мой взгляд, все это способно подтолкнуть ИИ-компании к целенаправленной работе над тем, чтобы избежать создания обладающего сознанием искина для определенных задач. Разумеется, для этого сознание должно быть тем, что можно как включить в систему при разработке, так и исключить из нее. Однако оно может быть неизбежным побочным продуктом построения разумной системы или вообще оказаться невозможным.
Не исключено, что в долгосрочной перспективе ситуация изменится не в пользу человека и проблема будет уже не в том, какой вред мы можем нанести искинам, а в том, как искины могут навредить нам. В самом деле, некоторые считают, что синтетический разум будет следующей после человека стадией эволюции разума на Земле. Тогда мы с вами и то, как мы живем и воспринимаем мир, – это всего лишь промежуточный шаг на пути к ИИ, ступенька на эволюционной лестнице. Не случайно Стивен Хокинг, Ник Бостром, Илон Маск, Макс Тегмарк, Билл Гейтс и не только они поднимают «проблему контроля» – вопрос о том, как человек сможет контролировать собственные ИИ-творения, если искины станут умнее нас[2]. Предположим, мы создадим ИИ с уровнем интеллекта, сравнимым с человеческим. Обладая алгоритмами самосовершенствования и способностью к стремительным вычислениям, такой искин мог бы быстро стать намного умнее человека и превратиться в сверхразум – т. е. обрести интеллектуальное превосходство над нами во всех отношениях. Мы, предположительно, не сможем контролировать такой сверхразум, и он, в принципе, получит возможность стереть нас с лица земли. Это лишь один из вариантов вытеснения органического разума искусственными созданиями; в качестве альтернативы человек может слиться с ИИ в результате последовательного усовершенствования мозга.
.....
