Читать книгу Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе - Эми Уэбб - Страница 8
Часть 1
Духи внутри машины
Глава 1
Разум и машина: очень краткая история ИИ
Лето и зима ИИ
ОглавлениеВ 1955 году профессора Марвин Минский (математика и неврология), Джон Маккарти (математика), а также Клод Шеннон (математик и криптограф из Bell Labs) и Натаниэль Рочестер (специалист по информатике из IBM) предложили провести двухмесячный семинар, посвященный работам Тьюринга и перспективам машинного обучения. Их идея заключалась в следующем: если возможно описать каждое проявление умственной деятельности человека, то можно и научить машину имитировать ее[32]7. Но для этого потребовалась бы многочисленная группа экспертов в разных областях человеческой деятельности. Они полагали, что, собрав междисциплинарную группу исследователей и интенсивно работая без перерывов в течение целого лета, можно добиться существенного прогресса.
Состав группы имел решающее значение. В нее вошли первоклассные инженеры, социологи, психологи, математики, физики и специалисты по когнитивистике. Им предстояло ставить фундаментальные вопросы и отвечать на них: что значит «мыслить», как работает наш «разум» и как научить машины учиться таким же образом, каким это делают люди? Идея заключалась в том, что разноплановая группа продолжит совместную работу после завершения семинара, развивая эту новую область знания. Поскольку речь шла о междисциплинарном подходе к созданию мыслящих машин, для его обозначения понадобилось новое имя. Участники остановились на немного двусмысленном, но элегантном термине «искусственный интеллект».
Маккарти составил предварительный список из 47 экспертов, присутствие которых считал необходимым, чтобы завязать нужные связи между людьми и заложить основу для дальнейших исследований и работ по прототипированию. Составить список людей, без которых нельзя было обойтись, когда по-настоящему начнутся работы по концептуализации и конструированию ИИ, было очень сложно. В частности, Минскому не нравилось, что на встрече не будет двух ключевых фигур: Тьюринг умер за два года до того, а фон Нейман находился в терминальной стадии рака[33].
Тем не менее в своих стараниях собрать разностороннюю группу специалистов, чьи знания и навыки взаимно дополняли бы друг друга, организаторы упустили из виду несколько существенных аспектов. Все в списке были белыми – несмотря на то, что в областях знания, интересовавших Маккарти и Минского, работало множество первоклассных цветных специалистов. Все они работали или в технологических гигантах своего времени (IBM, Bell Labs), или в узком кругу избранных университетов. Множество одаренных женщин уже тогда вносили заметный вклад в инженерное дело, информатику, математику, физику – но им места в списке не нашлось[34]. Среди приглашенных были только мужчины, за исключением жены Марвина Минского, Глории. Не отдавая себе отчета в своих предубеждениях, эти ученые, пытавшиеся понять, как устроен человеческий ум, как мы мыслим и как машины могли бы учиться у всего человечества, резко ограничили свою выборку теми, кто выглядел и говорил так же, как они.
В следующем году группа собралась на последнем этаже факультета математики Дартмутского колледжа. Среди тем ее работ были теория сложности, моделирование естественного языка, нейронные сети, связь случайности и творчества, а также самообучающиеся машины. По рабочим дням они собирались в главной аудитории факультета для общего обсуждения, после которого расходились, чтобы работать над частными задачами. Во время одного из таких общих собраний профессора Алан Ньюэлл, Герберт Саймон и Клифф Шоу предложили способ доказательства теорем логики и смоделировали процесс вручную. Свою программу они назвали Logic Theorist, «Ученый логик». Она оказалась первой программой, способной имитировать навыки решения задач, присущие человеку. (Впоследствии программа доказала 38 из 52 теорем из «Оснований математики» Альфреда Норта Уайтхеда и Бертрана Рассела, фундаментального учебника по началам математической науки.) Клод Шеннон, несколькими годами ранее учивший компьютеры играть в шахматы против людей, получил возможность показать прототип своей программы, работа над которой тогда еще продолжалась[35].
Тем летом в Дартмуте расчетам Маккарти и Минского на фундаментальный прорыв в области ИИ не суждено было оправдаться. Чтобы превратить ИИ из теории в практику, им не хватило времени, не говоря уже о вычислительной мощности[36]. Тем не менее именно к этому моменту восходят три практики, образующие фундамент ИИ в известном нам сегодня виде:
– теоретическая и практическая разработка ИИ, его тестирование и совершенствование будут производиться крупными технологическими компаниями и академической наукой, работающими совместно; – совершенствование ИИ требует больших сумм денег, поэтому станет необходима коммерциализация этих работ в той или иной форме – будь то взаимодействие с государственными или военными органами через партнерства или разработка продуктов и систем, которые могут быть проданы;
– исследование и разработка ИИ будут опираться на сеть ученых, работающих на стыке дисциплин, что означает создание новой отрасли науки с нуля. Это также означает, что уже работающие в этой отрасли будут нанимать, как правило, знакомых им людей, обеспечивая относительную однородность сети и ограничивая выборку.
Тем летом произошло другое интересное событие. Работая над вопросом Тьюринга, могут ли машины мыслить, группа разделилась из-за подходов к ответу на него, а именно построению самообучающейся машины. Некоторые участники предпочитали биологический метод. Иными словами, они считали, что при помощи нейронных сетей можно придать ИИ здравый смысл и способность рассуждать логически – и таким образом машины могут стать разумными. Другие возражали, что построить настолько полную копию мыслительного аппарата человека невозможно никогда. Вместо этого они предлагали инженерный подход. Вместо того чтобы подавать машине команды, приводящие к решению задачи, программа могла бы помочь системе «обучиться» на наборе данных. Система делала бы предсказания, основываясь на этих данных, а контролирующий ее человек проверял бы ответы, тренируя и настраивая ее в процессе работы. Таким образом определяется «машинное обучение» в узком смысле, то есть обучение решению изолированной задачи, например игре в шашки.
Психолог Фрэнк Розенблатт, участвовавший в семинаре в Дартмутском колледже, хотел смоделировать обработку визуальной информации в человеческом мозгу и в итоге научить машину распознавать предметы. Он рассчитывал создать простую рамочную программу, восприимчивую к обратной связи. Опираясь на результаты летних исследований, Розенблатт создал систему, которую назвал Perceptron. Это была первая искусственная нейронная сеть (ANN), работавшая по принципу создания связей между многочисленными элементами, обрабатывающими информацию и расположенными послойно. Каждый механический нейрон принимал на входе множество различных сигналов и затем обрабатывал их математически с учетом весов, чтобы определить, какой сигнал генерировать на выходе. Такая параллельная структура позволяла осуществлять доступ ко множеству обрабатывающих элементов одновременно, а это означало, что она не только была быстрой, но и могла непрерывно обрабатывать большой объем данных.
32
“A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence,” Stanford Computer Science Department’s Formal Reasoning Group, John McCarthy’s home page, links to articles of historical interest, last modified April 3, 1996, http://www-formal.stanford.edu/jmc/history/ dartmouth/dartmouth.html.
33
В своем предложении Маккарти, Минский, Рочестер и Шеннон привели такой список экспертов, которых намеревались пригласить в Дартмутский университет для работы над ИИ. Я воспроизвожу список так, как он был опубликован в 1955 году, с указанием компаний и адресов. Не все упомянутые в нем лица смогли принять приглашение.
Адельсон, Марвин
Hughes Aircraft Company
Эрпорт-Стейшен, Лос-Анджелес, Калифорния
Эшби, В. Р.
Барнвуд-хаус
Глостер, Англия
Бэкус, Джон
IBM Corporation
Мэдисон-авеню, 590
Нью-Йорк, штат Нью-Йорк
Бернстайн, Алекс
IBM Corporation
Мэдисон-авеню, 590
Нью-Йорк, штат Нью-Йорк
Бигелоу, Дж. Х.
Институт перспективных исследований
Принстон, Нью-Джерси
Элиас, Питер
Научно-исследовательская лаборатория электроники
Массачусетский технологический институт (МТИ)
Кембридж, Массачусетс
Дьюда, В. Л.
Научно-исследовательская лаборатория IBM
Покипси, штат Нью-Йорк
Дэвис, Пол М.
18-я улица, 1317 C.
Лос-Анджелес, Калифорния
Фэно Р. М.
Научно-исследовательская лаборатория электроники
МТИ
Кембридж, Массачусетс
Фэрли, Б. Г.
Парк-авеню, 324
Арлингтон, Массачусетс
Галантер, Э. Х.
Пенсильванский университет
Филадельфия, штат Пенсильвания
Гелернтер, Герберт
Научно-исследовательская лаборатория IBM
Покипси, штат Нью-Йорк
Гласхоу, Харви А.
Оливия-стрит, 1102
Энн-Арбор, Мичиган
Гёрцаль, Герберт
Западная 11-я улица, 330
Нью-Йорк, штат Нью-Йорк
Хагельбаргер, Д.
Научно-исследовательская лаборатория Bell Telephone
Мюррей-Хилл, Нью-Джерси
Миллер Джордж А.
Memorial Hall
Гарвардский университет
Кембридж, Массачусетс
Хармон, Леон Д.
Научно-исследовательская лаборатория Bell Telephone
Мюррей-Хилл, Нью-Джерси
Холланд, Джон Х.
Научно-исследовательский институт окружающей среды
Мичиганский университет
Энн-Арбор, Мичиган
Холт, Анатоль
Рурал-лейн, 7358
Филадельфия, штат Филадельфия
Каутц, Уильям Х.
Стэнфордский научно-исследовательский институт
Менло-Парк, Калифорния
Люс Р. Д.
Западная 117-я улица, 427
Нью-Йорк, штат Нью-Йорк
Маккей, Дональд
Физический факультет
Лондонский университет
Лондон, почтовый индекс «Западный Центральный 2 (WC2)», Англия
Маккарти, Джон
Дартмутский университет
Хановер, Нью-Гэмпшир
Маккулло, Уоррен С.
Научно-исследовательская лаборатория электроники, МТИ
Кембридж, Массачусетс
Мелзак З. Э.
Математический факультет
Мичиганский университет
Энн-Арбор, Мичиган
Минский М. Л.
Ньюбери-стрит, 112
Бостон, Массачусетс
Мор, Тренчард
Факультет информационных технологий
МТИ
Кембридж, Массачусетс
Нэш, Джон
Институт перспективных исследований
Принстон, Нью-Джерси
Ньюэлл, Аллен
Факультет промышленного управления
Технологический институт Карнеги
Питтсбург, Пенсильвания
Робинсон, Абрахам
Математический факультет
Торонтский университет
Торонто, Онтарио, Канада
Рочестер, Натаниэль
Научно-техническая исследовательская лаборатория
IBM Corporation
Покипси, штат Нью-Йорк
Роджерс, Хартли, мл.
Математический факультет
МТИ
Кембридж, Массачусетс
Розенблит, Уолтер
Научно-исследовательская лаборатория электроники
МТИ
Кембридж, Массачусетс
Ротштейн, Джером
Ист-Берген-Плейс, 21
Ред Бэнк, Нью-Джерси
Сойр, Дэвид
IBM Corporation
Мэдисон-авеню, 590
Нью-Йорк, штат Нью-Йорк
Шорр-Кон, Дж. Дж.
C-380 Lincoln Laboratory, MIT
Lexington, MA
Шэпли, Л.
Rand Corporation
Мэйн-стрит, 1700
Санта-Моника, Калифорния
Шутценбергер, М. П.
Научно-исследовательская лаборатория электроники
МТИ
Кембридж, Массачусетс
Селфридж, О. Дж.
Лаборатория Линкольна
МТИ
Лексингтон, Массачусетс
Шэннон, К. Е.
Научно-исследовательская лаборатория электроники
МТИ
Кембридж, Массачусетс
Шапиро, Норман
Rand Corporation
Мэйн-стрит, 1700
Санта-Моника, Калифорния
Саймон, Герберт А.
Факультет промышленного управления
Технологический институт Карнеги
Питтсбург, Пенсильвания
Соломонофф, Раймонд Дж.
Technical Research Group
Юнион-сквер запад, 17
Нью-Йорк, штат Нью-Йорк
Стил Дж. Э. капитан ВВС США
Зона Б, почтовый ящик 8698
База ВВС Райт-Паттерсон
Огайо
Уэбстер, Фредерик
Кулидж-авеню, 62
Кембридж, Массачусетс
Мур Э. Ф.
Научно-исследовательская лаборатория Bell Telephone
Мюррей-Хилл, Нью-Джерси
Кемени Джон Дж.
Дартмутский университет
Хановер, Нью-Гэмпшир
34
Я составила очень краткий список женщин и цветных, которые могли бы внести большой вклад в работу семинара в Дартмутском университете, но были обойдены вниманием организаторов. Этот список ни в коем случае не исчерпывающий. Я могла бы продолжать в течение многих десятков страниц. Перед вами же – просто выборка способных, талантливых, творческих людей, оставшихся за границами списка. Джеймс Эндрюс, математик, профессор Университета штата Флорида, специализировавшийся на теории групп и теории узлов.
• Джин Бартик, математик, одна из первых программистов компьютера ЭНИАК. Альберт Тернер Баруха-Рейд, математик и теоретик, внесший существенный вклад в теорию марковских цепей, теорию вероятностей и статистику.
• Дэвид Блэкуэлл, статистик и математик, сделавший существенный вклад в теорию игр, теорию информации, теорию вероятностей и байесову статистику.
• Мэми Фиппс Кларк, PhD и социальный психолог, чья исследовательская работа была посвящена самосознанию.
• Тельма Эстрин, пионер использования компьютерных систем в нейрофизиологии и науке о мозге. Она была научным сотрудником департамента электроэнцефалографии Института неврологии при Пресвитерианской больнице в Нью-Йорке.
• Эвелин Бойд Грэнвилл, PhD по математике, разработчик компьютерных программ анализа траектории, предназначенных для первых пилотируемых орбитальных и лунных космических полетов США.
• Бетти Холбертон, математик и одна из первых программистов компьютера ЭНИАК. Изобрела точки остановки, применяемые в отладке компьютерных программ.
• Грейс Хоппер, специалист по информатике и создатель языка Кобол, одного из первых языков программирования, применяемого и по сей день.
• Мэри Джексон, инженер и математик, позже ставшая первой черной женщиной-инженером в НАСА.
• Кэтлин Макналти, математик и одна из первых программистов компьютера ЭНИАК.
• Мэрлин Мельцер, математик и одна из первых программистов компьютера ЭНИАК, первой программируемой вычислительной машины, выполненной полностью на электронной элементной базе.
• Рожа Петер, математик и основатель теории рекурсивных функций.
• Фрэнсис Спенс, математик и одна из первых программистов компьютера ЭНИАК.
• Рут Тейтельбаум, математик и одна из первых программистов компьютера ЭНИАК. Совместно с Мэрлин Мельтцер разработала уравнения для расчета баллистической траектории.
• Дороти Вон, математик и человек-«компьютер», в 1949 году исполнявшая обязанности директора West Area Computers.
• Джесси Эрнст Уилкинс-мл., специалист по ядерной физике, инженер-механик и математик, ставшая самым молодым студентом Чикагского университета в возрасте 13 лет.
35
“The Dartmouth Workshop – as Planned and as It Happened,” Stanford Computer Science Department’s Formal Reasoning Group, John McCarthy’s home page, lecture “AI: Past and Future,” last modified October 30, 2006, http://www-formal.stanford.edu/jmc/slides/dartmouth/ dartmouth/node1.html.
36
“The Dartmouth AI Archives,” RaySolomonoff.com, http://raysolomonoff. com/dartmouth/.
