Читать книгу 12 кругов - Twinman - Страница 3

Из архива заметок руководителя Проекта. За 10 + N лет до начала событий.

Я по-прежнему убежден, что одной из важнейших способностей искусственного интеллекта, над которым мы работаем, является самостоятельное осознанное интенсивное развитие. Как показывает посторонний опыт, экстенсивное развитие, свойственное многим компьютерным системам, способно увеличить их производительность, но неспособно вывести за рамки изначально заложенных алгоритмов. Если таким системам и свойственна качественная эволюция, то только путем внесения доработок извне. Таким образом, путь планомерного развития через поглощение новой информации и обработки имеющейся является тупиковым – во всяком случае, для наших задач, поскольку случайное «техническое» саморазвитие ядра методом перебора всех устойчивых алгоритмов и отбраковкой бесполезных поглотит все имеющиеся у системы ресурсы на сотни или даже тысячи лет. И я не возьмусь утверждать, что рано или поздно такой компьютер не скажет нам «сорок два»[2].

С некоторых пор мы уделяем особенное внимание организации процесса иерархического определения сущностей, находящихся на разных смысловых уровнях внутри нейронной сети. Некоторые исследования гласят, что схожим образом – определяя понятия высокого уровня через единичные или группы понятий более низкого – работает человеческий мозг. Хотя мы не являлись пионерами «глубокого обучения» и «глубоких архитектур», мы смогли получить результаты, отличающиеся от ранее имевшихся. Попытка понять, как устроено мышление, при помощи самого мышления заняла многих из нас. Это называют «метапознанием».

Должен признать, когда я анализирую собственное мышление, мне приходят в голову довольно интересные мысли, отличающиеся от выводов сухой логики, которую мы пытались использовать при проектировании алгоритмов взаимодействия наших искусственных нейронных сетей.

Недавно мы также обсуждали актуальность теста Тьюринга и пришли к выводу, что его результатов для нас недостаточно. Способность к имитации общения человека никак не коррелируется со способностью искусственного интеллекта к самостоятельному размышлению и развитию. Для идеального же прохождения такого теста (хотя это все еще представляется проблемой для многих сторонних разработок) достаточно запихнуть в банк данных компьютера всю семантику требуемого языка, а также максимальное количество диалогов (Сеть в данном ракурсе представляется отличным источником) на всевозможные темы. Провязав правила построения речи со смыслами слов, фраз и их вероятными контекстами, мы получим систему, способную общаться. Подчеркиваю – общаться, но не выражать собственные мысли.

Похоже, что во главу угла нам придется поставить решение задачи, которую я могу описать как «самоосознающая сущность». Другими словами, искусственный интеллект должен обладать собственным «Я». В противном случае проблема его самостоятельного интенсивного развития представляется мне неразрешимой.