Читать книгу Воспитание Нейросетей - Вадим Осмоловский - Страница 3

Процесс подготовки сети к использованию подразумевает следующие стадии:

1. Подготовка данных. Данные, та информация, которая пройдет через сеть и оставит на ней неизгладимый отпечаток. Все так как у человека. Определенная информация оставляет впечатления на всю свою жизнь, и готовит к будущим победам.

2. Конструирование сети. Нейросеть должна иметь определенную структуру. У нее должны быть возможности получить информацию, обработать и вернуть результат. Фактически сеть состоит из трех основных элементов: принимающий слой нейронов, средние слои, и финальный слой, где генерируется ответ.

Проводя параллели с человеком, можно указать на следующие соответствия. Слой ввода – это сенсоры, глаза, уши, нос и так далее. Эти органы чувство снабжены нервными клетками, которые собирают информацию из окружающей среды. По нервным волокнам информационный поток стремится в головной мозг, где происходит обработка полученных знаний. Нейроны отвечающие за решения, принятые в результате увиденного или услышанного и воплощенные в мышечную деятельность в виде, например, бега, произнесенных слов, или любой другой активности, это последний слой, дающий результат. Искусственная нейросеть представляет собой компьютерную программу, написанную человеком. А нейросеть самого человека – продукт эволюционного отбора, закрепленного в генах, как следует удобренный культурой и воспитанием.

1. Настройки сети. Перед тем как сеть увидит данные, она должна быть настроена. Во-первых, там есть много ручек, которые можно подкрутить. Во-вторых, есть возможность взять предварительно обученную модель для того, чтоб сократить время тренировки. Если сравнивать с человеком, то необходимо учить математике с нуля, и только потом прийти к линейной алгебре. Ведь без фундамента невозможно ожидать усвоению сложного материала. Для компьютера же можно взять предварительно обученную школьной математике модель и сразу приступить к обучению линейке, минуя первый шаг.

2. Модель, место, где сохраняется результат увиденного. Долговременная память, если хотите. Так сказать, слепок впечатлений и знания, для последующего использования.

3. Тренировка модели. Фактически это процесс предоставления информации сети. Модель в таком случае учится сама находить признаки, по которым она понимает почему что-то то, а не это. К примеру если ребенку показать картинку с котом первый раз и спросить что это такое, то он ответит что не знает. Однако, если мы повторим эту процедуру большое количество раз, то ребенок будет с определенной долей вероятности правильно указывать на кота или собаку.

Чем больше картинок увидит ребенок, тем точнее будет определение. Причем, через некоторое время можно будет показать для сравнения не всего кота, а только его глаз и глаз собаки, задав вопрос: где чей?

Если обобщить весь процесс развития нейросети человека, то происходит следующее. Ребенок, рождаясь, погружается в информационные потоки. Сенсоры(глаза, уши, нос и так далее) передают всю гамму стимулов внешнего мира и пластичный мозг, готовый и сконструированный для таких условий, наполняется полезными(или не совсем) данными. Модель ребенка обучается различать голоса, лица, мимику. Вскоре, из шума ребенок учится выделять признаки отдельных знакомых звуков, окрашенных эмоционально. Из звуков выделяются слова, из слов предложения и так далее. Модель ребенка учится адекватно реагировать на сигналы реальности и с течением времени показывает чудеса эрудиции и мастерства.

С точки зрения физиологии происходят следующие процессы:

1. Сигналы новой информации, поступая через сенсоры, стимулируют выработку меж синаптических нейромедиаторов.

2. Нейромедиаторы попадают на рецепторы нейронов, которые запускают активацию генов, ответственных за нейрогенез.

3. Происходит формирование новых синапсов между отростками нейронов. Уровень сложности (а значит и способностей) сети зависит именно от количества нейронов с синапсами. Во взрослом мозгу около 200 млрд нейронов, причем от каждого могут отходить десятки тысяч отростков. Т.е в мозгу 1.25*10¹⁷ транзисторов, тогда как на всей нашей планете в во всех существующих компьютерах и смартфонах их 1*10¹⁷

1. Новые нейроны объединяются в нейро группы – совокупность клеток, отвечающая за определенную функцию. Например, когда ребенок учит букву А, это значит в голове появляется один или несколько нейронов, которые реагируют на демонстрацию буква А.

2. Запоминание важной информации. Это происходит за счет создания молекул памяти в нейронах и новых соединений между нейронами.

3. Забывание ненужной информации. Да-да, забывание – это тоже труд.

Важные особенности, на которые следует обратить внимание:

Первое и, наверное, самое важное, это то, что мозг развивается только в том случае, если он испытывает когнитивную нагрузку. Только при решении задач мы учимся с ними справляться. Наивно полагать, что способности придут сами, или того хуже, что они заложены лишь по происхождению. Безусловно, генетический потенциал играет ключевую роль, но без тренировки

Второе, мозг не живет своей отдельной жизнью в стороне от всего остального организма. Мышцы оказывают огромное влияние на развитие мозга. Недаром древние греки говорили: “Хочешь быть красивым – бегай, хочешь быть здоровым – бегай, хочешь быть умным – бегай.”

Отсутствие тренировки губительно и приводит к атрофии мыслительных способностей. Фактически рост и развитие мозга напрямую зависит от информации в него попавшей. И если стимулы не поступали, то соответственно нейроны и их отростки не росли. Ну а если думать нечем, то и чудес не бывает, из ничего ничего не появляется.