Читать книгу Mick Prod — Cognitive OS. Книга о памяти, длительности и рождении личных ИИ-систем - Ар'лан ис'Дрекхэм - Страница 9

До Mick Prod я долго верил в другую инженерную интуицию. Если одна модель видит задачу слишком плоско, нужно собрать ансамбль. Разделить роли. Дать одной системе рынок, другой метрики, третьей контент, четвертой тактику, пятой критику, шестой финальную проверку. Пусть они спорят, уточняют, отсекают слабые ходы и вместе приходят к более зрелому решению. Это выглядело разумно, местами действительно работало и особенно хорошо подходило к прикладным контурам: контент для бизнеса, тактические решения, реакции на рынок и KPI в реальном времени.

С технической стороны всё было вполне земным. Оркестрация на Python, языковые модели, лёгкие слои промежуточного состояния, быстрые хранилища для краткоживущих сигналов, SQLite и JSON для протоколов, простые маршрутизаторы, решающие, кого звать в следующий цикл. Проблема была не в том, что набор технологий оказался недостаточно модным. Проблема была глубже: архитектура считала время побочным эффектом.

Лучше всего это видно на одном конкретном провале. Я называю его просто: консенсус без истины.

Система разбита на агентов. Один анализирует рынок. Второй критикует. Третий предлагает стратегию. Четвёртый проверяет логическую связность. Задача вполне деловая: выбрать способ запуска продукта.

Происходит следующее. Аналитик строит аккуратную, но усреднённую картину рынка. Генератор предлагает безопасную стратегию, чтобы она «прошла везде». Критик находит риски в более резких вариантах и отсекает их. Валидатор проверяет связность вывода и одобряет итог. На выходе получается идеально согласованный план.

Проблема в том, что этот план ни разу не столкнулся с реальностью. Ни один агент не получил права разрушить рамку самой задачи, поставить под сомнение цель, ввести внешний конфликт, признать, что исходная модель среды ложна. Все участники оптимизировали внутри допущенной рамки, а не проверяли рамку об мир.

Критическая точка провала здесь парадоксальна: система достигает максимальной согласованности именно в тот момент, когда максимально удаляется от истины. План реализуется, реальность требует противоположного хода, а система не понимает, где именно возникла ошибка. Логика ведь была безупречной. Агенты были согласованы. Внутренний протокол был чистым. Ложной оказалась сама рамка.

С тех пор для меня существует короткая формула этого провала: они договорились — и именно поэтому ошиблись.

Вот где древняя формула «в споре рождается истина» перестаёт быть достаточной. Спор без длительности не рождает истину автоматически. Он часто рождает очень аккуратный шум. Узкие специалисты дают глубину только тогда, когда у них есть нечто общее, выходящее за пределы текущего цикла: память о значимости, цена прежних ошибок, право нести вперёд открытые противоречия, а не схлопывать их ради чистого вывода.

Именно этого моим ранним сборкам и не хватало. Система могла быть сильной внутри раунда, но почти не умела взрослеть между раундами. Она возвращалась к важным вопросам как к новым. Снова раскручивала уже пройденный спор. Поднимала детали, теряя несущую линию. Путала информационную плотность с мыслительной зрелостью. Производила не опыт, а организованное забывание.

Полезно подчеркнуть: я не считаю многоагентные архитектуры исторической ошибкой. Скорее наоборот. Они были необходимой ступенью, потому что очень быстро показали свой предел. Они умеют устранять противоречия, но не умеют создавать их там, где они необходимы. Они умеют распределять роли, но не умеют сами по себе накапливать внутренний мир. Они могут быть блестящим ускорителем вариантов, но без общей длительности остаются машиной локальной изобретательности, а не машиной взросления.

Отсюда и более трезвый взгляд на будущее. Спор идёт не между «одним великим агентом» и «армией специалистов». Спор идёт о центре тяжести системы. Если центр находится в распределённом спектакле ролей, система будет снова и снова платить за красивую фрагментацию. Если центр находится в ядре непрерывности, роли, навыки и инструменты могут остаться, но уже как подключаемая периферия вокруг устойчивого внутреннего контура.

Именно здесь я по-настоящему понял силу хода Владимира. Он сделал ставку не на ещё более сложное согласование ролей, а на память во времени. Тем самым он вскрыл переменную, без которой мои собственные ансамбли были обречены оставаться умными, но поверхностными. Их можно было улучшать бесконечно: добавлять роли, тоньше настраивать веса, перестраивать порядок циклов. Но пока они жили без общей длительности, им было некуда взрослеть.

С этого места для меня закончился спор о том, что именно является следующим инженерным объектом. Не ещё один ансамбль. Не ещё одна схема спора. Не ещё одна красивая оркестрация. Следующим объектом должна была стать непрерывность как реальная рабочая среда, в которой прошлое меняет структуру будущего. И только после этого многообразие ролей перестаёт быть зрелищем и получает шанс стать зрелой архитектурой.