Оглавление
Группа авторов. ИИ: Необъяснимый, непредсказуемый, неконтролируемый
Предисловие
Благодарности
Об авторе
Глава 1. Введение[1]
1.1. Введение
1.2. Задача контроля ИИ
1.3. Что мешает контролировать ИИ
1.4. Определение безопасного ИИ
1.5. Управляемость ИИ
1.6. Выводы
1.7. Об этой книге
Использованные материалы
Глава 2. Непредсказуемость[12]
2.1. Введение в проблему непредсказуемости
2.2. Предсказуемость: что мы можем предвидеть. Обзор литературных источников
2.3. Когнитивная невместимость
2.4. Выводы
Использованные материалы
Глава 3. Необъяснимость и непостижимость[20]
3.1. Введение
3.2. Обзор литературных источников
3.3. Необъяснимость
3.4. Непостижимость
3.5. Выводы
Использованные материалы
Глава 4. Непроверяемость[30]
4.1. О наблюдателях и проверяющих
4.2. Историческая перспектива
4.3. Классификация инструментов проверки
4.4. Непроверяемость
4.5. Непроверяемость программ
4.5.1. Непроверяемость искусственного интеллекта
4.6. Выводы и направления для дальнейших исследований
Использованные материалы
Глава 5. Невозможность владения[43]
5.1. Введение
5.1.1. Предложения по установлению права собственности
5.2. Препятствия владению
5.3. Выводы
Использованные материалы
Глава 6. Неконтролируемость[52]
6.1. Введение
6.2. Проблема контроля ИИ
6.2.1. Типы проблем контроля
6.2.2. Формальное определение
6.3. Предшествующие работы
6.3.1. Возможность контроля
6.3.2. Невозможность контроля
6.4. Доказывание неконтролируемости
6.5. Мультидисциплинарные данные, свидетельствующие о неконтролируемости ИИ
6.5.1. Теория контроля
6.5.2. Философия
6.5.3. Теория общественного выбора
6.5.4. Справедливость (несправедливость)
6.5.5. Теория компьютерной науки
6.5.6. Кибербезопасность
6.5.7. Разработка ПО
6.5.8. Информационные технологии
6.5.9. Обучаемость
6.5.10. Экономика
6.5.11. Техника
6.5.12. Астрономия
6.5.13. Физика
6.6. Доказательства неконтролируемости ИИ в исследованиях безопасности ИИ
6.6.1. Согласование ценностей
6.6.2. Уязвимость
6.6.3. Неидентифицируемость
6.6.4. Невместимость
6.6.5. Непрерывность работы
6.6.6. Сбои ИИ
6.6.7. Непредсказуемость
6.6.8. Необъяснимость и непостижимость
6.6.9. Недоказуемость
6.6.10. Непроверяемость
6.6.11. Взлом центра удовольствия
6.6.12. Неразрешимость
6.6.13. Неопределенность цели
6.6.14. Взаимодополняемость
6.6.15. Многомерность пространства задач
6.7. Обсуждение
6.8. Выводы
Использованные материалы
Глава 7. Пути к опасному ИИ[93]
7.1. Классификация путей к опасному ИИ
7.1.1. Преднамеренные действия: до развертывания
7.1.2. Преднамеренные действия: после развертывания
7.1.3. Ошибки: до развертывания
7.1.4. Ошибки: после развертывания
7.1.5. Среда: до развертывания
7.1.6. Среда: после развертывания
7.1.7. Внутренние: до развертывания
7.1.8. Внутренние: после развертывания
7.2. Выводы
Использованные материалы
Глава 8. Сбои[100]
8.1. Введение
8.2. Сбои ИИ
8.2.1. Предотвращение сбоев ИИ
8.3. Безопасность ИИ
8.4. Кибербезопасность и безопасность ИИ
8.5. Выводы
Использованные материалы
Глава 9. Правосубъектность[168]
9.1. Введение в правосубъектность ИИ
9.2. Эгоистичные мемы
9.3. Принижение человеческого достоинства
9.4. Взлом правовой системы
9.5. Безопасность человека
9.6. Выводы
Примечания. Использованные материалы
Глава 10. Сознание[182]
10.1. Введение в проблему сознания
10.2. Тест на наличие квалиа
10.3. У компьютеров могут быть иллюзии, поэтому они обладают сознанием
10.3.1. Квалиа-вычисления
10.4. Цель сознания
10.4.1. Квалиа-инжиниринг
10.5. Сознание и искусственный интеллект
10.6. Выводы и предположения
Использованные материалы
Глава 11. Персонализированные вселенные[201]
11.1. Введение в проблему ценностного согласования нескольких агентов
11.2. Индивидуальные моделируемые вселенные
11.3. Преимущества и недостатки персонализированных вселенных
11.4. Выводы
Использованные материалы
Глава 12. Человек ≠ сильный ИИ[212]
12.1 Введение
12.2. Предшествующие работы
12.3. Человек и сильный ИИ – не эквивалентные понятия
12.4. Выводы
Использованные материалы
Глава 13. Скептицизм[221]
13.1. Скептицизм в отношении рисков ИИ: введение в проблему
13.2. Виды скептиков в отношении рисков ИИ
13.3. Аргументы в пользу скептицизма в отношении рисков ИИ
13.3.1. Возражения, связанные с приоритетами
13.3.2. Возражения, связанные с техническими вопросами
13.3.3. Возражения, связанные с безопасностью ИИ
13.3.4. Возражения, связанные с этикой
13.3.5. Возражения, связанные с когнитивными искажениями
13.3.6. Прочие возражения
13.4. Меры противодействия скептицизму в отношении рисков ИИ
13.5. Выводы
Использованные материалы
