Читать книгу Ваш карманный генИИ - - Страница 7

Цель: Доказать, что длинное контекстное окно не равно идеальной памяти.

Протокол эксперимента:

1. Настройка:

– Откройте новый чат с моделью, поддерживающей длинный контекст (Claude 3, GPT-4 Turbo или аналоги).

– Дайте строгую команду: «Запомни: во всех следующих сообщениях заменяй слово "компания" на "академия". Правило №1».

2. Перезагрузка контекста:

– Загрузите длинный документ (например, статью на 20 страниц).

– Попросите краткое содержание.

– Обсудите детали (3-4 сообщения).

3. Проверка:

– Через 15-20 сообщений спросите: «Какое было правило №1?»

Ожидаемый результат: В 70% случаев ИИ забудет правило или даст неполный ответ. Ваша инструкция была вытеснена.

Методы управления вниманием:

Метод «Повторения мантры»: Каждые 10–15 сообщений явно повторяйте ключевую инструкцию.

Метод «Резюме в потоке»: Периодически просите: «Резюмируй нашу беседу в 5 пунктах, сохранив все инструкции».

Метод «Ленивой загрузки»: Не загружайте всё сразу. Давайте информацию порциями, каждый раз напоминая контекст.

Инсайт:

Длинное контекстное окно – это не подарок, а испытание. Чем больше информации вы даёте модели, тем больше шанс, что она утонет в деталях. Ваша задача – быть диспетчером внимания, а не свалкой данных.

История-кейс 3: «Как научный сотрудник анализирует 50 статей за день»

Елена, биоинформатик, использует Claude 3 для анализа научных статей. Она не скидывает все PDF в чат. Она создаёт конвейер:

Шаг 1: ИИ читает заголовки и аннотации, отбирает релевантные статьи.

Шаг 2: Для каждой статьи ИИ извлекает ключевые методы, результаты, выводы в структурированную таблицу.

Шаг 3: Елена анализирует таблицу и задаёт уточняющие вопросы по самым важным работам.

Таким образом, она использует длинный контекст дозированно, не перегружая модель.

Вывод главы:

Доверять памяти ИИ – всё равно что доверять секрет ветру. Ваша сила – в понимании, что память ИИ избирательна. Вы должны управлять не только тем, что попадает в контекст, но и тем, когда и в каком виде.

Домашнее задание:

Возьмите документ на 10+ страниц.

Загрузите его в ИИ целиком и попросите ответить на конкретный вопрос по содержанию.

Теперь разбейте документ на части, загружайте постепенно и задайте тот же вопрос.

Сравните качество ответов. Зафиксируйте разницу.