Реклама. ООО «ЛитРес», ИНН: 7719571260.
Эту книгу хорошо дополняют
Предисловие партнера
Неоконченная история о воробьях
Введение
Глава первая. Прошлые достижения и сегодняшние возможности
Модели роста и история человечества
Завышенные ожидания
Путь надежды и отчаяния
Последние достижения
Будущее искусственного интеллекта – мнение специалистов
Глава вторая. Путь к сверхразуму
Искусственный интеллект
Полная эмуляция головного мозга человека
Усовершенствование когнитивных способностей человека
Нейрокомпьютерный интерфейс
Сети и организации
Резюме
Глава третья. Типы сверхразума
Скоростной сверхразум
Коллективный сверхразум
Качественный сверхразум
Прямая и опосредованная досягаемость
Источники преимущества цифрового интеллекта
Глава четвертая. Динамика взрывного развития интеллекта
Время и скорость взлета
Сопротивляемость
Пути, не подразумевающие создания машинного интеллекта
Пути создания имитационной модели мозга и искусственного интеллекта
Сила оптимизации и взрывное развитие интеллекта
Глава пятая. Решающее стратегическое преимущество
Получит ли лидирующий проект абсолютное преимущество?
Насколько крупным будет самый перспективный проект?
Система контроля
Международное сотрудничество
От решающего преимущества – к синглтону
Глава шестая. Разумная сила, не имеющая себе равной
Функциональные возможности и непреодолимая мощь
Сценарий захвата власти сверхразумом
Власть над природой и другими действующими силами
Глава седьмая. Намерения сверхразума
Связь между интеллектом и мотивацией
Инструментальная конвергенция
Самосохранение
Непрерывная последовательность целей
Усиление когнитивных способностей
Технологическое совершенство
Получение ресурсов
Глава восьмая. Катастрофа неизбежна?
Экзистенциальная катастрофа как неизбежное следствие взрывного развития искусственного интеллекта?
Вероломный ход
Пагубные отказы
Порочная реализация
Инфраструктурная избыточность
Преступная безнравственность
Глава девятая. Проблемы контроля
Две агентские проблемы
Методы контроля над возможностями
Изоляционные методы
Стимулирующие методы
Методы задержки развития
Методы «растяжек»
Методы выбора мотивации
Метод точной спецификации
Метод приручения
Метод косвенной нормативности
Метод приумножения
Резюме
Глава десятая. Оракулы, джинны, монархи и инструменты
Оракулы
Джинны и монархи
ИИ-инструменты
Сравнительная характеристика
Глава одиннадцатая. Сценарии многополярного мира
О лошадях и людях
Заработная плата и безработица
Капитал и социальное обеспечение
Мальтузианские условия в исторической перспективе
Рост населения и инвестиции
Жизнь в цифровом мире
Добровольное рабство, случайная смерть
В высшей степени тяжелый труд как высшая степень счастья
Аутсорсеры, лишенные сознания?
Эволюция – путь наверх или не обязательно?
А потом появится синглтон?
Второй переход
Суперорганизмы и эффект масштаба
Объединение на договорных началах
Глава двенадцатая. Выработка ценностей
Проблема загрузки системы ценностей
Естественный отбор
Обучение с подкреплением
Ассоциативная модель ценностного приращения
Строительные леса для мотивационной системы
Обучение ценностям
Вариации имитационной модели
Институциональное конструирование
Резюме
Глава тринадцатая. Выбор критериев выбора
Необходимость в косвенной нормативности
Когерентное экстраполированное волеизъявление
Некоторые комментарии
Целесообразность КЭВ
Дополнительные замечания
Модели, основанные на этических принципах
Делай то, что я имею в виду
Перечень компонентов
Описание цели
Принятие решений
Эпистемология, или Познание мира
Ратификация, или Подтверждение
Выбор правильного пути
Глава четырнадцатая. Стратегический ландшафт
Стратегия научно-технологического развития
Различные темпы технологического развития
Предпочтительный порядок появления
Скорость изменений и когнитивное совершенствование
Технологические связки
Аргументация от противного
Пути и возможности
Последствия прогресса в области аппаратного обеспечения
Следует ли стимулировать исследования в области полной эмуляции головного мозга?
С субъективной точки зрения – лучше быстрее
Сотрудничество
Гонка и связанные с ней опасности
О пользе сотрудничества
Совместная работа
Глава пятнадцатая. Цейтнот
Крайний срок философии
Что нужно делать?
В поисках стратегии
В поисках возможностей
Конкретные показатели
Все лучшее в человеческой природе – шаг вперед!
Библиография
Список сокращений
Благодарности
Об авторе
Теория игр
Авинаш Диксит и Барри Нэлбафф
.....
Однако появление интеллектуальных шахматных систем не обернулось тем торжеством разума, на которое многие рассчитывали, – и это имело определенное объяснение. По мнению ученых того времени – мнению, наверное, небезосновательному, – компьютер станет играть в шахматы наравне с гроссмейстерами, только когда будет наделен высоким общимуровнем интеллектуального развития{59}. Казалось бы, великий шахматист должен соответствовать немалым требованиям: иметь крепкую теоретическую подготовку; быть способным оперировать абстрактными понятиями; стратегически мыслить и разумно действовать; заранее выстраивать хитроумные комбинации; обладать дедуктивным мышлением и даже уметь моделировать ход мысли противника. Отнюдь. Выяснилось, что достаточно разработать идеальную шахматную программу на основе алгоритма с узкоцелевым назначением{60}. Если программу поставить на быстродействующий процессор – а скоростные компьютеры стали доступны уже в конце XX века, – то она демонстрирует весьма сильную игру. Однако подобный искусственный интеллект слишком однобок. Он ничего другого не умеет, кроме как играть в шахматы{61}.
В других случаях изучения и применения искусственного интеллекта выявились проблемы более сложногопорядка, чем ожидалось, поэтому и развитие шло значительно медленнее. Профессор Дональд Кнут, крупнейший специалист в области программирования и вычислительной математики, с удивлением заметил: «Искусственный интеллект, преуспев сегодня во всем, где требуется “разум”, неспособен на те действия, которые люди и животные совершают “бездумно”, – эта задача оказалась гораздо труднее!»{62} Затруднения вызывала, например, разработка системы управления поведением роботов, а также такие их функции, как распознавание зрительных образов и анализ объектов при взаимодействии с окружающей средой. Тем не менее и сделано было немало, и продолжает поныне делаться, причем работа идет не только над развитием программного обеспечения – постоянно совершенствуются аппаратные средства.
.....