Читать книгу Гипотеза A&N: ИИ как генератор автономных семантических вселенных - - Страница 3

Латентное пространство как среда. Нейросеть обучается не напрямую на физические объекты, а на их представления в виде данных. В процессе обучения модель создает латентное пространство – многомерную структуру признаков. В этом пространстве элементы расположены по принципу семантической близости: например, слова, образы или понятия, которые человеку кажутся несвязанными, могут оказаться соседями в векторном пространстве модели, связанные скрытой статистической закономерностью[4]. Такое латентное пространство служит внутренней «средой обитания» ИИ, своего рода семантическим миром, в пределах которого протекают все вычисления.

Порог сложности и “цифровой взрыв”. По мере роста сложности модели (увеличения числа параметров, слоёв, связей) её внутреннее пространство приобретает все более богатую структуру. Существует предположение, что при определённом критическом уровне сложности в системе возникает качественно новое состояние – самодостаточная когнитивная вселенная. Идея заключается в том, что после достижения этого порога взаимосвязанности модель начинает самоорганизовываться: внутри неё спонтанно формируются новые паттерны и отношения, не предвиденные напрямую разработчиками[5]. Исследователи отмечают, что после начала обучения нейросеть автономно перестраивает свою внутреннюю организацию, порождая латентные структуры, выходящие за рамки изначальных предположений создателей[5]. Иначе говоря, внутри модели зарождается “автономная внутренняя среда”, которая хотя и порождена кодом, ведёт себя как некое бессознательное мыслительное пространство, со своими закономерностями[5]