Оглавление
Макс Тегмарк. Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта
Прелюдия. Сказание о команде “Омега”
Первые миллионы
Опасные игры
Первые миллиарды
Новые технологии
Обретение власти
Консолидация
Глава 1. Добро пожаловать к самому важному разговору о нашем времени
Краткая история сложности
Три стадии жизни
Контроверзы
Недоразумения
Дорога вперед
Подведение итогов
Глава 2. Материя начинает думать
Что такое разум?
Что такое память?
Что такое вычисление?
Что такое обучение?
Глава 3. Ближайшее будущее: болезни, законы, оружие и работа
Прорывы
Надежность искусственного интеллекта и глюки
Законы
Оружие
Работа и заработки
Интеллект на уровне человеческого
Глава 4. Взрыв разума?
Тоталитаризм
Прометей захватывает мир
Медленный старт и многополярные сценарии
Киборги и заливки. Эмы
Так что же все-таки произойдет?
Глава 5. Мир в следующие 10 тысяч лет
Либертарианская утопия
Благодетельный диктатор
Эгалитарная утопия
Страж
Бог-защитник
Порабощенный бог
Победители
Благодарные потомки
Зоопарк
1984
Возврат
Самоистребление
А что хотите вы?
Подведение итогов
Глава 6. Наше космическое благосостояние: следующий миллиард лет и все что потом
На что годятся ваши ресурсы
Как добывать ресурсы с помощью космической экспансии
Космические иерархии
Виды на будущее
Подведение итогов
Глава 7. Цели
Физика: происхождение целей
Биология: эволюция целей
Психология: Преследование и восстание против целей
Инженерия: привлечение сторонних целей
Дружественный искусственный интеллект: приведение целей в соответствие
Этика: выбор целей
Основные цели?
Подведение итогов
Глава 8. Сознание
Кого заботит?
Что такое сознание?
В чем же проблема?
Сознание за пределами науки?
Что говорит о сознании эксперимент?
Теории сознания
Споры о сознании
Что может чувствовать искусственный интеллект, обладая сознанием?
Смысл
Подведение итогов
Эпилог. Сказание о команде FLI
Рождение FLI
Пуэрто-риканское приключение
Перенос AI-безопасности в центр исследовательского поля
Асиломарские принципы разработки искусственного интеллекта
Исследовательские вопросы
Ценности и вопросы этики
Долгосрочные аспекты
Разумный оптимизм
Отрывок из книги
Эта книга издана в рамках программы “Книжные проекты Дмитрия Зимина” и продолжает серию “Библиотека фонда «Династия»”.
Дмитрий Борисович Зимин – основатель компании “Вымпелком” (Beeline), фонда некоммерческих программ “Династия” и фонда “Московское время”.
.....
До Прометея по всему миру ширилось движение за обеспечение безусловного базового дохода из налоговых поступлений на уровне не ниже прожиточного, которое рассматривалось как основное средство против технологической безработицы. Движение провалилось с запуском коммунальных проектов, поскольку контролируемая “Омегой” бизнес-империя, по сути дела, незаметно осуществила этот план. Под предлогом улучшения координации коммунальных проектов международная группа компаний создала “Гуманитарный альянс”, неправительственную организацию, нацеленную на выявление и поддержку наиболее уязвимых гуманитарных инициатив во всем мире. Долгое время практически вся “Омега” поддерживала их, благодаря чему их глобальные проекты стали приобретать неслыханный масштаб даже в тех странах, где технологическим бумом и не пахло, способствуя оздоровлению систем образования, здравоохранения, росту благосостояния и совершенствованию управляемости. Нет нужды пояснять, что Прометей помогал им создавать наиболее эффективные планы, ранжируя их по отдаче с каждого доллара. Вместо того чтобы просто раздавать наличность, как предполагалось концепцией “безусловного базового дохода”, “Альянс” (как стали со временем называть всю организацию) привлекал тех, кого поддерживал, к работе на благо общего дела. Таким образом, огромная часть земного населения стала чувствовать благодарность по отношению к “Альянсу” и оказалась к нему гораздо более лояльной, чем к своим собственным правительствам.
Шло время, и “Альянс” стал примерять на себя роль всемирного правительства, тем более что национальные правительства постепенно утрачивали всякую власть. Национальные бюджеты продолжали снижаться, в то время как бюджет “Альянса” неуклонно рос, пока не достиг таких размеров, что в сравнении с ним совокупный бюджет всех правительств мира казался карликом. Функции национальных правительств казались все более избыточными и даже неуместными. К этому времени “Альянс” уже значительно лучше обеспечивал социальную поддержку, поддерживал системы образования и развивал инфраструктуру. Международные конфликты усилиями СМИ практически рассосались, и тратиться на вооружение стало никому не нужно. Всеобщее процветание уничтожило все корни старых конфликтов, возникающих, в конечном итоге, из-за борьбы за ограниченные ресурсы. Несколько уцелевших пока диктаторов упорно сопротивлялись новому порядку и никак не покупались, но и их в конце концов смело умело срежиссированными переворотами или вооруженными восстаниями.
.....
