Читать книгу Ваш карманный генИИ - - Страница 6

ВСТУПЛЕНИЕ К ГЛАВЕ

Вы научились говорить с ИИ на языке токенов. Теперь представьте, что вы дали ему чёткую инструкцию, но через минуту он о ней забыл. Знакомо? Это не его прихоть. Это ограничение его оперативной памяти – контекстного окна.

Если токены – это слова в языке ИИ, то контекстное окно – объём его кратковременной памяти. Вы можете вложить в него целую книгу, но это не значит, что ИИ запомнит каждую страницу. Он будет помнить лучше то, что было сказано недавно, и постепенно забудет начало, если информации слишком много.

Понимание этого механизма – второй ключ к управлению. Без него самые гениальные инструкции теряются в цифровых дебрях.

История-кейс: «Юрист, который доверил ИИ дело на 200 страниц»

Юрист Михаил загрузил в Claude 3 полное дело по арбитражному спору (200 страниц PDF) и попросил: «Проанализируй и выдели слабые места позиции истца». ИИ выдал подробный разбор, но пропустил ключевой документ – допсоглашение, которое меняло всё. Почему? Документ был на странице 180, а к моменту его обработки «внимание» модели уже было перегружено. Хотя технически контекстное окно позволяло загрузить весь текст, эффективная память модели оказалась короче.

Что такое контекстное окно в 2026?

Это оперативная память ИИ. Не жёсткий диск. У современных моделей (GPT-4 Turbo, Claude 3, Gemini 1.5) окно достигает 128K- 1M токенов. Это 300- 2500 страниц текста. Но есть нюанс: чем дальше информация от «центра внимания», тем хуже модель её помнит.

Простая аналогия:

У вас есть стол (контекстное окно). Вы кладёте на него инструкцию по сборке самолёта (ваш промпт). Но пока вы собираете, вам нужно класть детали, инструменты, кофе. Стол огромный, но самые важные детали должны лежать прямо перед вами. Если инструкция окажется в дальнем углу, вы её не увидите.