2062 год – что это за дата? Ведущие эксперты по искусственному интеллекту и робототехнике предсказывают: в 2062 году мы сможем создать искусственный разум, который превзойдет возможности человека. Еще в начале 1990-х Гарри Каспаров уверен, что «в классических шахматах на серьёзном уровне компьютерам ничего не светит в XX веке»… и в 1997 году проигрывает компьютеру Deep Blue. А двадцать лет спустя AlphaGo выигрывает партию у лучшего в мире игрока в го.
В интервью ВВС Стивен Хокинг заметил, что «полноценный искусственный интеллект может стать концом человеческой расы, поскольку будет самостоятельно и стремительно совершенствоваться, а люди, зависящие от медленной биологической эволюции, неспособны с ним конкурировать». Так ли это? Что же нас ждет теперь?
На этот вопрос отвечает Тоби Уолш, признанный специалист по искусственному интеллекту. В своей книге он внимательно и последовательно изучает каждую сторону нашего «светлого будущего»: от мировой экономики до новой человеческой идентичности. Уже поздно обсуждать, хорош или плох будет мир в этом очень недалеком будущем. Сейчас главное – понять, как к нему готовиться.
Оглавление
Тоби Уолш. 2062: время машин
1. Homo digitalis
Путь homo sapiens
Влияние языка
Влияние письменности
Колёрнинг
Всемирное обучение
Универсальные машины
Машины, которые учатся
Компьютеры делают больше, чем мы от них требуем
Преимущество машин
Наш преемник
Для кого эта книга?
2. Наш конец
Запуск всех систем
Не только игры
Общий искусственный интеллект
Сколько нам осталось?
Технологическая сингулярность
Быстро думающая собака
Переломный момент
За гранью разумного
Убывающая отдача
Пределы интеллекта
Вычислительная сложность
Петли обратной связи
Тормоза интеллекта
Осторожная экстраполяция
Уроки прошлого
Сверхразумные машины
Угроза нашему существованию
Прикосновение Мидаса
Скрепки повсюду
Мы или они?
Движущаяся мишень
Безразличие
Стоит ли нам волноваться?
«Пари Паскаля»
Не принимать в расчет будущее
Никогда не говори «никогда»
За рамками природы
Интерфейс мозга
Опережая машины
3. Конец сознания
Трудная проблема
Сознательные машины
Интеллект зомби
Удивительный осьминог
Серьезные проблемы
Проблема свободы воли
Этичные роботы
Конец смерти
Виртуальная жизнь
Конец биологии
4. Конец работы
Половина профессий
Данные обучения
Починка велосипедов
Управление самолетом
Роботы-модели
Сколько на самом деле профессий в опасности?
Что мы знаем
Открытые и закрытые работы
Частично автоматизированные профессии
Меньше работать
Цена всей работы
Стареющая планета
Победители и проигравшие
Толпа мужчин
Развивающиеся страны
Дальнобойщики и таксисты
Обучение длиною в жизнь
Новые профессии
Роботы не нужны
5. Конец войны
Привлекательность роботов-убийц
Нравственность роботов-убийц
Оружие массового поражения
Орудия террора
Ошибающееся оружие
Геополитическая стабильность
Призыв к оружию
Гонка вооружений
Возражения против запрета
Первые шаги
Растущее давление
Альтернативные меры
Как избежать такого будущего
6. Конец наших ценностей
Предвзятость машин
Имморальный компас
Алгоритмическая дискриминация
Война с гориллами
Намеренная предвзятость
Незаконные предубеждения
Что такое честность?
Прозрачность
Чьи ценности?
Проблема вагонетки
Корпоративная этика
Устранение предвзятости
Золотой век философии
7. Конец равенства
Жизнь никогда не была лучше
Худшее место для жизни
Экономика просачивающегося богатства
В прошлый раз было иначе
Корпоративное неравенство
Борьба с «голиафами»
Корпоративная жадность
Разрушение Uber
Корпоративные исследования
Современные корпорации
Корпорации двадцать первого века
Бесплатные деньги
Первые ростки
8. Конец частной жизни
Новая нефть
ИИ следит за тобой
Связанные данные
Частная жизнь офлайн
Большой брат дома
Аналоговая приватность
Не человеческие глаза
Хорошая Apple
Социальный кредитный рейтинг
После Сноудена
Лидерство Европы
Владение данными
ИИ как решение
9. Конец политики
Технологии и политика
Фальшивые новости
Facebook знал
Целевые кампании
Боты
Фальшивые политики
Четвертая власть
Президент Цукерберг
Политические решения
10. Конец Запада
История спутника
План Китая
Научное доминирование
Ответ Америки
Планы других стран
Конец неолиберализма
11. Конец
Новые законы
Новые корпорации
Новая политика
Новая экономика
Новое общество
Лучшее будущее
Благодарности
Библиография
Отрывок из книги
Человек – удивительное создание. Несмотря на изобилие различных форм жизни на планете, мы, вероятно, наиболее удивительная из всех, которые когда-либо на ней существовали. Мы поворачивали вспять реки, создавали острова и прочими способами меняли природу для своих целей. Мы построили невероятные сооружения.
Монументальные пирамиды в Гизе. Невероятной протяженности Великая Китайская стена[1]. Изумительная Саграда-Фамилия. Мы пересекали жаркие пустыни, покоряли высочайшие горы. Мы отправили Tesla Roadster в космос[2]. Мы даже покинули Землю, чтобы прогуляться по Луне.
.....
Программа для совершения электронного платежа работает следующим образом: сначала она находит имя клиента и баланс счета в базе, затем вычитает платеж из баланса и, наконец, обновляет баланс в базе. Просто, как все гениальное. Изменив данные, мы можем вычесть платеж из счета другого клиента или даже клиента другого банка. Изменив программу, мы можем заставить компьютер делать что-то другое. Например, если мы заставим его прибавлять сумму, а не вычитать, то получим программу, которая позволяет вносить электронные депозиты.
Таким образом, компьютер – образец универсальной машины, способной выполнить любую программу. В этом и заключается секрет смартфона, который лежит в вашем кармане. В него можно загрузить приложения, позволяющие выполнять задачи, о которых создатели смартфона даже подумать не могли. В этом смысле смартфон стал гораздо большим, чем просто телефон: он стал навигатором, календарем, будильником, калькулятором, блокнотом, музыкальным проигрывателем, игровой консолью и постепенно становится еще и личным помощником. Продвинутые технологии могут дать нам компьютеры, способные работать быстрее, но не могут дать компьютеры, способные вычислить больше, чем универсальная вычислительная машина, о которой Тьюринг впервые подумал еще в тридцатых годах прошлого века. Любопытно то, что Тьюрингу пришла в голову эта мысль еще до того, как был создан первый компьютер.
