Читать книгу Искусственный интеллект на пальцах: что он умеет и как обычный человек может экономить с его помощью время и деньги - - Страница 8

Иногда ИИ отвечает так уверенно, что хочется сразу копировать текст в письмо, отчёт или сообщение. Вы спрашиваете: «Какие документы нужны для возврата товара?» или «Сделай краткую справку про компанию», получаете аккуратный список – и только потом выясняется, что часть пунктов выдумана, перепутаны даты, а названия законов или организаций не существуют. У новичка это вызывает два чувства: «Значит, ИИ бесполезен» или «Значит, ему нельзя верить вообще». Оба вывода мешают получать пользу.

Ключевой принцип простой: ИИ – не “проверяльщик фактов”, а “составитель правдоподобного ответа”, поэтому его результат нужно воспринимать как черновик, который вы быстро проверяете и уточняете. «Галлюцинации» ИИ – это как раз такие правдоподобные выдумки: модель пишет не то, что точно знает, а то, что похоже на правильный ответ по форме и стилю.

Почему так происходит на простом уровне. Чат-ассистент обучен продолжать текст так, чтобы он выглядел логичным. Если в вашем вопросе не хватает данных, если тема редкая, или если вы просите «точно и со ссылками», а у модели нет надёжной опоры, она может “достроить” недостающие куски. Например, вы просите: «Назови 5 функций приложения X в бесплатной версии». ИИ может перечислить функции, которые звучат реалистично, но часть окажется из платного тарифа или вообще не относится к этому приложению. Или вы спрашиваете: «Какая средняя зарплата по должности Y в моём городе?» – и получаете конкретную цифру, хотя без источника это просто догадка, оформленная как факт.

Ошибки встречаются не одинаково часто. Реже всего ИИ ошибается там, где вы даёте все исходные данные и просите обработку: переписать письмо в более вежливом тоне, составить план по вашим пунктам, сделать список вопросов к встрече, сократить текст, перевести фразу (хотя и перевод тоже стоит просматривать). Чаще всего проблемы начинаются, когда вы просите внешние факты или точность “как в справочнике”.

Типовые задачи, где ошибок больше:

– Факты, цифры, даты, «кто когда что сказал», «какой закон и статья», «точные требования и нормы». ИИ может перепутать детали или придумать “официально звучащий” ответ.

– Ссылки на источники. Модель иногда сочиняет названия документов, авторов и даже URL-адреса, которые выглядят правдоподобно.

– Узкие темы и локальные правила: конкретный город, конкретная организация, внутренние регламенты, редкие модели техники, свежие изменения. Чем меньше у ИИ устойчивых примеров, тем больше риск “достройки”.

– Любые запросы с формулировками «точно», «гарантированно», «самое актуальное на сегодня», если вы не дали источник или дату. ИИ не чувствует ответственности за актуальность и может отвечать так, будто знает.

Что с этим делать на практике – не усложняя. Вам нужна быстрая проверка в три шага: поиск, здравый смысл, уточняющие вопросы.

Проверка через поиск нужна, когда в ответе есть то, что можно подтвердить снаружи: цифры, правила, названия, тарифы, требования, характеристики. Достаточно выбрать 1–3 ключевых утверждения и проверить именно их, а не весь текст целиком. Если ИИ написал «нужны документы A, B, C» – в поиске проверяйте не “всё сразу”, а, например, самый спорный пункт C и формулировку требования.

Проверка здравым смыслом – это быстрый фильтр на внутренние противоречия. Спросите себя: ответ не слишком ли уверенный, если тема сложная? Нет ли странных деталей (слишком точная цифра без источника, редкое слово, “официальное” название, которое вы никогда не слышали)? Совпадает ли логика со здравым опытом: сроки реалистичны, шаги не конфликтуют друг с другом, нет ли «сначала сделайте Х, а потом сделайте противоположное»? Если что-то выглядит “слишком гладко”, это повод перепроверить.

Уточняющие вопросы – самый быстрый способ снизить риск галлюцинаций прямо в диалоге. Вместо того чтобы спорить с ответом, попросите ИИ показать опоры и границы:

– «Какие пункты в твоём ответе являются предположениями, а какие – фактами?»

– «На чём основано утверждение про ___? Дай 2–3 источника или скажи, что источников нет».

– «Перечисли, какие данные тебе нужны, чтобы ответ был точнее (город, дата, версия сервиса, тип договора)».

– «Сформулируй ответ в виде: “если…, то…”, и укажи исключения».

Важно: даже если ИИ дал “источники”, их всё равно стоит открыть и проверить. Просьба о ссылках помогает не потому, что ИИ всегда честно их “знает”, а потому что вы переводите разговор из режима красивого текста в режим проверяемых утверждений.

Один сценарий, как это выглядит в реальной задаче. Представьте, вам нужно быстро подготовить сообщение начальнику: «Какие варианты командировки дешевле: поезд или самолёт, и какие документы нужны для отчёта». Вы пишете в чат-ассистент:

Плохой запрос: «Сравни поезд и самолёт, и напиши, какие документы нужны».

Хороший запрос: «Помоги составить черновик сообщения руководителю. Вводные: маршрут Москва—Казань, поездка на 2 дня, даты 12–13 марта, цель – встреча с партнёром. Нужно: 1) список факторов для сравнения поезд/самолёт (время в пути, пересадки, багаж, риск задержек), 2) какие документы обычно нужны для отчёта о командировке – но пометь, что это общий список и его нужно сверить с правилами нашей компании. Ответ – коротким сообщением на 8–10 строк».

ИИ выдаёт аккуратный текст и список документов. Дальше вы делаете быструю проверку:

1) Здравый смысл: видите ли вы в списке документов что-то подозрительное (например, “обязательная справка формы №…”, о которой вы не слышали)?

2) Уточняющий вопрос: «Какие пункты из списка документов могут отличаться в разных компаниях? Какие 3 вопроса мне задать бухгалтерии/кадрам, чтобы уточнить?»

3) Поиск или проверка в реальности: не в интернете “вообще”, а в вашем контуре – открыть внутреннюю памятку по командировкам или написать бухгалтерии. В итоге ИИ остаётся полезным: он собрал структуру сообщения и подсказал, что уточнить, но финальные “факты” вы подтвердили.

После этой главы стоит унести три привычки. Во‑первых, относиться к ответу ИИ как к черновику, особенно если там есть факты, цифры и правила. Во‑вторых, помнить зоны риска: редкие темы, свежие изменения, локальные требования, ссылки и точные цифры без источников. В‑третьих, проверять быстро: выбрать пару ключевых утверждений и подтвердить их поиском или внутренними документами, прогнать ответ через здравый смысл и задать 1–2 уточняющих вопроса, которые отделяют факты от предположений.