Читать книгу Не искусственный интеллект - Ника Черменская - Страница 1

“Мы попробовали ChatGPT, нам очень нравится. Только можете научить, как правильно задавать вопрос, когда ему нужно скормить текст по частям? А то у нас есть длинные кейсы, на 3-4 страницы, он их не ест”.

В этот момент я понимаю, что что-то идет не так. Нет, работать с теми, кому нравится инструмент, которому ты обучаешь, легче и приятнее. Не нужно преодолевать сопротивление и пытаться продать то, к чему ты не имеешь абсолютно никакого отношения. Вот только за окном февраль 2025 года, а значит ChatGPT-3.5 давно канул в небытие. И кейс на 3-4 страницы уже давно не длинный документ, а не очень большой контекст, который можно и в окно запроса вставить и файлом прикрепить к подавляющему большинству моделей. А значит, “кормить” частями ни один из текущих инструментов просто не нужно. И учиться этому тоже. Нужно разбираться.

Прошу открыть сервис, в котором они работают. И вижу, что это так называемый “ChatGPT без сложностей” – российский сервис, где модели прикручены через API. Вот и источник проблемы. Инструмент, который ограничивает контекстное окно, урезает токены в запросах и в целом релизит новые функции и обновляет модели гораздо дольше, чем официальное решение сервиса для пользователей. Потому что в своем интерфейсе они эти самые модели и функции зачастую тестируют. Но кого волнуют все эти технические мелочи, прямо влияющие на качество работы, когда создатель пообещал, что больше не придется заморачиваться с регистрацией, доступами и оплатами?

Знаете, в чем глобальная проблема с внедрением ИИ в работу кого угодно? В том, что на вопрос “Какой нейросети вы хотите научиться?” (ну или научить своих сотрудников), самый частый ответ – чтобы она была бесплатной и доступна без ВПН. И я сейчас, к сожалению, серьезно.

Вдруг вы тоже наивно ждали ответов “чтобы точно работал с табличками Exel”, “чтобы можно было загрузить туда целую книгу”, “чтобы мог отвечать из разных ролей”, “чтобы текст был похож на человеческий”. Оказывается, нет. Главное, чтобы она была бесплатная. То есть, постановка задачи идет не через качество, не через результат, а через отсутствие параметра. Здорово. Только вот дешевле тогда вообще не заходить в этот процесс. Потому что все технооптимисты и продавцы ИИ забывают среди своих громких лозунгов упомянуть один простой факт. Настоящая полноценная цифровизация даже небольшого участка работы – это очень затратно. И речь не только про оплату самих нейронок, но и про перестройку процессов, оплату обучения людей и настройки моделей и многое другое. Хочется оказаться на гребне волны, и при этом не инвестировать и не рисковать? Так не бывает. Цифровизация – это инвестиция, а инвестиции и изменения – это всегда риски.

Как бы больно это не звучало, но на текущем уровне развития технологий (и я не про сегодня, а про перспективу трех-пяти, а то и всех десяти лет) человек есть и будет или вовсе незаменимой или гораздо более дешевой единицей выполнения задач, чем искусственный интеллект на тот же функционал. Естественно, если у руководителя бизнеса есть хотя бы малейшее представление о необходимом ему качестве работы. Если смысл решения только в простом “напишите позитивный пост про наш товар как-нибудь со смайликами по-молодежному”, то да, всех нас быстренько заменит ИИ. Правда, жить в таком мире и инфополе совершенно точно не хочется. Мне, по крайней мере, точно. Надеюсь, что и вам тоже.

Но то, что я описала, – это лишь одна грань текущей ситуации. Есть и другая.

Общаюсь с командой, которые эти самые “ИИ в одном окне и без зарубежных карт” создают. Очередной такой сервис, но в самом начале пути, – амбициозные, гибкие, открытые для обсуждения, хотя бы на словах. Я в этот момент ищу способ оптимизировать работу с нейронками. И думаю, что мы можем неплохо помочь друг другу. Они через меня узнают запросы бизнеса и фишки, которые нужны для реальной работы тем, кто нейронки использует. А у меня будет для организации работы мощный российский сервис с доступами ко всем нейронкам. Не бесплатный, естественно, зато без танцев с бубнами и со всем необходимым функционалом и корректным объемом контекстного окна.

В этот момент сам проект находится на грани заморозки из-за непонимания перспектив. Поэтому изначально показалось, что мы можем быть полезны друг другу, даже без каких-то взаимных финансовых обязательств между нами лично. Мне станет проще работать, команде – как минимум, будет площадка для стартовой развертки на платформе моей текущей компании. В перспективе года внедрение их инструмента на тысячу человек, на горизонте полугода – около двухсот человек. Главное – пройти тестовый период на уже отработанной группе. Я часто занимаюсь таким бизнес-сводничеством, поэтому никаких сложностей на этом этапе не вижу, ведь интерес обоюдный.

Но вот наступает первый же созвон по функционалу. Напоминаю, стартап уже на рынке, у него уже есть какие-то тарифы на услуги и в целом он на грани заморозки, но функционирующий. И вот на этом созвоне я объясняю, что, чтобы мне договориться на пилотный запуск, им нужно посчитать, сколько будет стоит внедрение в месяц на десяток сотрудников. Естественно, у меня есть первичное описание текущего объема использования нейросетей на этом участке. Десять сотрудников, у них пятидневная рабочая неделя, ChatGPT пользуются активно, где-то четыре часа в день, скармливают рабочие документы по десять-пятнадцать страниц, в среднем в чате цепочка из десяти запросов по этому документу. Сухой язык бизнесового расчета.

Как думаете, какой ответ я от них получаю? Давайте процитирую дословно:

“Проблема в том, что нейросети не измеряются ни в часах, ни в килограммах, ни в амперах. Нам чтобы посчитать, нужно точно знать, сколько токенов вы расходуете каждый день. Когда вы нам это скажете, мы определим, сколько их нужно в месяц и тогда скажем по тарифам”.

То есть, я, не айтишник, или вообще любой бизнес, который пришел к ним с желанием разобраться с ИИ на основе их инструментов, должна сначала разобраться, что такое токены, как их считать, найти какой-то способ посчитать их расход в день, а они уже, так и быть, умножат это на двадцать или двадцать два, на стоимость токена в API нужной нейронки и прибавят к этому свою наценку. Кто не в курсе – статистики в аккаунтах у ChatGPT нет, по крайней мере прямо сейчас. Посмотреть я это никак и нигде не могу. Должна придумать, как посчитать вручную.

Чтобы у вас не проснулось сочувствие к команде, которая не знает нашей нагрузки и вообще внешний подрядчик, давайте проведем аналогию. Просто представьте, какая у вас была бы реакция, если бы в EdTech вдруг начали выпускать вот такие курсы: десять теоретических лекций, а дальше текст “А теперь вам нужна практика. Не знаю, какие навыки вам пригодятся именно в вашей работе, поэтому сами решите, что из этого вам нужно и идите практикуйтесь”.

Наверное, вы отнесетесь к такому обучению с пониманием и будете в восторге. Ведь откуда команде проекта знать именно вашу ситуацию и ее особенности… Надеюсь, иронию все считали.

Такие ситуации бывают, но это не должно переводить их в разряд нормы. Все-таки бизнес – это про понимание своей ниши. Когда вы его запускаете, то предполагается, что вы продаете свои опыт и знания тем, кто не разбирается в теме. А если, чтобы с вами поработать, нужно сначала самим во всем разобраться… Мне кажется, или тогда дешевле сразу поставить своим айтишникам техническое задание, чтоб они собрали такую песочницу для внутренних нужд? По крайней мере, комиссию стороннему сервису не придется платить. Раз и так и так во всем разобраться нужно самостоятельно.

На самом деле, таких кейсов немало. Но эта книга не о специфике построения бизнеса или даже ведения деловой коммуникации, поэтому остановимся на этих двух примерах.

Вот в такой реальности мне пришлось быть мостиком между этими двумя мирами. Между айтишниками, которые не сильны в нуждах бизнеса и его степени понимания темы, и пользователями, которым сложно разобраться, почему телеграм-бот с названием ChatGPT нельзя использовать в работе и при этом говорить всем, что они внедрили ИИ в свою деятельность. Это даже не разные стороны бизнес-процесса. Не разная степень владения технологиями. Это совершенно разные картины мировоззрения. И рассказываю я вам о них не чтобы вы примкнули к какой-то из сторон, а чтобы увидели реальность, в которой мы используем нейросети. Хотя бы один из ее фрагментов.

Разумеется, эту книгу можно было бы написать как курс. Рассказать, как выбрать нейросеть, как с ней общаться, как внедрять в работу. Я в таком контенте успела набить руку, пока записывала скринкасты и составляла учебные планы курсов по ИИ для представителей разных профессий для онлайн-школ. Только давайте честно. Какой в этом всем смысл?

Предсказывающие модели сменятся рассуждающими, и промпты устареют. Они устаревают с каждой новой моделью.

Кто-то откроет книгу, желая узнать, как генерировать реалистичные картинки, и расстроится, что про это будет лишь предложение “добавьте в конце промпта слово photorealism”. А главное: не заметит, что до этого было несколько предложений про то, что важно правильно выбрать инструмент – не все нейронки справляются с реалистичным рендером, большинство замыливают изображение.

В мире каждый день появляются новые инструменты и совершенствуются предыдущие. Становятся мощнее, лучше, быстрее, доступнее. Появляются новые фишки самих моделей, которые делают старые приемы работы с ними не актуальными. Там, где вчера нужно было разбивать изучение темы на этапы, теперь достаточно выбрать “углубленное исследование” и ввести вопрос. Где приходилось копировать абзацы из нужного отчета – достаточно прикрепить целый файл. Где просили действовать шаг за шагом и рассуждать – теперь просто включаем рассуждающие модели. И это только про изменения в текстовых нейросетях за последние полтора года. Так что в этой сфере стремительно меняется все. Кроме человека.

В большинстве случаев сложности в работе с нейросетями связаны не с их возможностями или отсутствием технического навыка составления промптов. Это не так сложно, как кажется. Если вы оказались способны осилить школьные сочинения в свое время, то и написать два абзаца по формуле “Роль + Цель + Задача + Контекст + Примеры и Антипримеры” не составит для вас особого труда. Основная сложность кроется в другом. В особенностях мышления людей, которым в руки попадает инструмент.

В нашем восприятии и задач, и реальности, и инструментов. В умении или неумении расставлять приоритеты. В отношении к работе и понимании собственных задач. И даже в осознании того, что мы любим, и что нам катастрофически не нравится и умении действовать в соответствии с этим.

Знаете, что я заметила и по себе и по всем, с кем работала и кого учила? Мы чаще всего разочаровываемся не в самих нейросетях как таковых. Большинство из нас адекватные люди, которые до того, как нажать “Сгенерировать”, не сильно и рассчитывают получить абсолютно идеальный результат. Но, увидев его, мы очень часто разочаровываемся в своих возможностях работы с искусственным интеллектом. Или в его возможности воплотить наши глобальные мечты и мгновенные хотелки. В том, сколько усилий на самом деле требует получение результата. Это нормально. Но все-таки, разочаровываться хотелось бы меньше и реже. Не для этого мы пытаемся их освоить. Не для этого смотрим примеры других людей и проходим их обучения.

Я надеюсь, вы открыли эту книгу не с желанием получить понятную схему, гарантирующую идеальный результат с первого раза. Потому что здесь я не буду учить вас составлять промпты (если что, базовая формула и так написана выше). Мы разберемся, как пользоваться вашим собственным разумом так, что эти самые шаблонные промпты вам больше не понадобятся. Чтобы вы могли просто говорить с нейронкой, как с коллегой или ассистентом, и получать результат.

На каждую из глав этой книги меня натолкнул один из вопросов, которые чаще всего я слышала от людей, видела в разборах коллег или задавала себе сама. Из тех, которые обросли мифами и стали основой для массовых заблуждений. И которые очень часто мы задаем вместо других, более важных для нас. Ведь очень часто мы задаем вопрос “как” вместо того, чтобы остановиться и подумать “зачем”. Я очень надеюсь, что к концу этой книги вы найдете для себя ответы на эти вопросы. Не на вынесенные в заголовки. А на те, которые волнуют на самом деле.

***

Кстати, вот решение кейса про расчет токенов, вдруг кому пригодится:

Итого на сотрудника в день:

Сумма токенов за 10 запросов в 1 цепочке ≈ 79,000 токенов.

На 10 сотрудников в день (примерно 4 цепочки): 79,000 × 10 × 4 = 3 160 000 токенов.

В месяц: 3 160 000 × 22 ≈ 69 520 000 токенов.

При более интенсивной работе возможно в 2 раза больше: 139 040 000 токенов.

Итого: 70-140 млн токенов в месяц на компанию, 7-14 млн токенов в месяц на сотрудника.

Вопрос остается про входные-выходные токены, но по крайней мере отправная точка теперь есть.