Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens
Реклама. ООО «ЛитРес», ИНН: 7719571260.
Оглавление
Джеймс Баррат. Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens
Введение
Глава 1. Сценарий Busy Child[1]
Глава 2. Проблема двух минут
Глава 3. Взгляд в будущее
Глава 4. По сложному пути
Глава 5. Программы, которые создают программы
Глава 6. Четыре фундаментальные потребности
Глава 7. Интеллектуальный взрыв
Глава 8. Точка невозврата
Глава 9. Закон прогрессирующей отдачи
Глава 10. Сингуляритарий
Глава 11. Жесткий старт
Глава 12. Последнее затруднение
Глава 13. Непознаваемы по природе
Глава 14. Конец эры человечества?
Глава 15. Кибернетическая экосистема
Глава 16. УЧИ 2.0
Отрывок из книги
Несколько лет назад я с удивлением обнаружил, что у меня есть нечто общее с совершенно незнакомыми людьми. Это мужчины и женщины, с которыми я никогда не встречался, – ученые и университетские профессора, предприниматели из Кремниевой долины, инженеры, программисты, блогеры и т. д. Они рассеяны по Северной Америке, Европе, Индии, и я никогда бы о них не узнал, если бы не Интернет. Объединяет же меня с этими незнакомцами скепсис по поводу безопасного развития искусственного интеллекта (ИИ). Самостоятельно и небольшими группами по два-три человека мы изучали литературу и выстраивали свои аргументы. И вот пришло время, когда я занялся поисками единомышленников и, к своему удивлению, обнаружил в сети продвинутых и искушенных в этом вопросе людей и даже небольшие сообщества исследователей. Я и не думал, что этой темой озабочено столько серьезных специалистов. Оказалось, однако, что объединяют нас не только опасения относительно будущего ИИ; все мы также полагали, что времени на какие-то действия, которые позволили бы избежать катастрофы, почти не осталось.
Более двадцати лет я посвятил документальному кино. В 2000 г. я брал интервью у великого фантаста Артура Кларка, изобретателя Рэя Курцвейла и пионера робототехники Родни Брукса. Курцвейл и Брукс рисовали умилительную, восторженную картину будущего сосуществования человечества с разумными машинами. А вот Кларк намекнул, что нас обгонят и оставят позади. До этого разговора перспективы ИИ приводили меня в восторг. Теперь же мою душу начал отравлять скепсис по поводу радужного будущего.
.....
Мы, люди, изобрели и применили ядерное оружие, чем наглядно продемонстрировали свою способность лишить жизни большинство обитателей Земли. Как вы думаете, что сможет придумать разум в тысячу раз более мощный, чем наш, если решит причинить нам вред?
Уже сегодня можно назвать очевидные способы уничтожения человечества. Очень скоро, заручившись симпатией своих тюремщиков-людей, ИСИ мог бы потребовать доступ в Интернет, где нашел бы все необходимые ему данные. Как всегда, он делал бы множество вещей одновременно, и это не помешало бы ему продолжать разработку планов «побега», на обдумывание которых он может тратить невероятное количество субъективного времени.
.....