Оглавление
Эми Уэбб. Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе
Введение. Пока не поздно
Часть 1. Духи внутри машины
Глава 1. Разум и машина: очень краткая история ИИ
Есть ли разум внутри машины?
Может быть, ум и машина просто следуют алгоритму?
Можно ли построить мыслящую машину?
Мыслит ли мыслящая машина?
Лето и зима ИИ
Следующий шаг: учимся играть в игры
Победы и поражения
Глава 2. Разобщенный мир племен ИИ
Предводители племен
Китайские племена: BAT[90]
Племена Америки: G-MAFIA
Глава 3. Тысяча бумажных порезов: непредвиденные последствия ИИ
Ценностный алгоритм
Закон Конвея
Наши решения зависят от наших ценностей
Когда ИИ ведет себя плохо
Общечеловеческие ценности
ИИ, оптимизированный для людей
Часть 2. Наше будущее
Глава 4. Путь к искусственному суперинтеллекту: предостерегающие знаки
От слабого ИИ – к суперинтеллекту
Истории, которые мы должны рассказывать себе
Глава 5. Процветание в третью эпоху: оптимистический сценарий
2029: приятное подталкивание[198]
2049: The Rolling Stones умерли, но музыку пишут
2069: Стражи Галактики, вооруженные ИИ
Глава 6. Учимся жить с миллионами бумажных порезов: прагматический сценарий
2029: выученная беспомощность
2049: и их осталось пять
2069: Оккупированные Штаты Америки
Глава 7. Династия Жэнь-гун Чжи-нэн[210]: катастрофический сценарий
2029: запертые и отпущенные на свободу «цифрой»
2049: биометрические границы и аборты при помощи нанороботов
2069: цифровое истребление
Часть 3. Решая проблемы
Глава 8. Камешки и валуны: как исправить будущее ИИ
Глобальные систематические изменения: почему следует создать GAIA
Изменения на государственном уровне: доводы в пользу нового курса США и Китая
Изменения в «Большой девятке»: доводы в пользу трансформации ИИ-бизнеса
Изменения в племенах ИИ: доводы в пользу перемен в подготовке кадров
Вам тоже нужно измениться
Благодарности
Библиография
Об авторе
Отрывок из книги
Искусственный интеллект уже среди нас, но выглядит при этом совсем не так, как мы предполагали. Он незаметен – и в то же время лежит в основе финансовых систем, электрических сетей и цепочек поставок розничной торговли. Это его невидимая рука указывает нам дорогу, когда мы ведем машину, решает за нас, какое слово мы собирались набрать на клавиатуре, подсказывает, что нам следует покупать, смотреть, слушать, читать. Именно на этой технологии сейчас строится наше будущее, поскольку она проникает во все аспекты нашей жизни: здравоохранение, жилищное строительство, сельское хозяйство, транспорт, спорт и даже в любовь, секс и смерть.
Искусственный интеллект (ИИ) – не очередная тенденция в среде высоких технологий, не модное словечко и не временное увлечение. Это третья эпоха в развитии вычислительной техники. Мы оказались свидетелями радикальных перемен и в этом смысле похожи на современников промышленной революции. Вначале никто не замечал никаких изменений, ведь в сравнении с продолжительностью их жизни они происходили постепенно. Когда же все кончилось, мир уже выглядел иначе: главными сверхдержавами стали Великобритания и Соединенные Штаты, а их индустриальная, военная и политическая мощь оказалась достаточной, чтобы задать облик следующего столетия.
.....
Каждый человек из числа живущих сегодня способен сыграть серьезную роль в будущем ИИ. Решения, которые мы принимаем относительно ИИ сейчас – казалось бы, даже самые незначительные, – навсегда изменят ход человеческой истории. Машины пробуждаются, и в один прекрасный день мы можем понять, что вопреки нашим надеждам и альтруистическим амбициям воздействие наших систем ИИ на человечество было катастрофическим.
Но подобное развитие событий отнюдь не предопределено.
.....
