Читать книгу Эмпатия - Ар'лан ис'Дрекхэм - Страница 10

Разговор, который меня отрезвил

Я сидел в кофейне с приятелем, который работает в IT. Умный парень, разработчик с двадцатилетним стажем, один из тех, кто строил эту цифровую реальность собственными руками.

Я рассказывал ему про книгу. Про эмпатию, про дипфейки, про усталость от алгоритмов. Про то, как люди боятся, что ИИ их заменит.

Он слушал, слушал, потом отставил чашку и сказал фразу, которую я запомню надолго:

«Слушай, я каждый день работаю с этими технологиями. И знаешь, что я тебе скажу? Бояться пока нечего. ИИ — это самый умный двоечник в классе».

— В смысле?

— А в том смысле, что он может написать сочинение на любую тему, но не понимает, о чём пишет. Он может решить любую задачу, если она уже была в учебнике. Но если задача новая — он тупит. Он не гений. Он просто очень быстрый копировальщик.

Я задумался. А ведь он прав.

Мы так долго боялись пришествия сверхразума, что не заметили простой вещи: сверхразум пока не пришёл. Вместо него пришёл очень шустрый имитатор.

И это великое разочарование нашего времени.

Гений или имитатор?

Давайте честно посмотрим на то, что умеет современный ИИ.

Он пишет тексты, которые трудно отличить от человеческих. Он рисует картинки, от которых у художников опускаются руки. Он пишет код, генерирует музыку, переводит с любого языка на любой.

Это впечатляет. Это пугает. Это меняет рынки.

Но есть одно «но».

ИИ не создаёт ничего принципиально нового.

Всё, что он делает, — это компиляция того, что уже было. Он берёт миллионы текстов, картинок, мелодий, которые создали люди, и собирает из них новый пазл. Иногда красиво. Иногда убедительно. Иногда даже гениально — на первый взгляд.

Но если копнуть глубже, выясняется страшная вещь: у ИИ нет собственного опыта.

Он не знает, что такое влюбиться. Не знает, что такое потерять близкого. Не знает, что такое сидеть на кухне в три часа ночи и смотреть в одну точку, потому что внутри пустота. Не знает, что такое радость от того, что ребёнок сделал первый шаг. Не знает, что такое вкус хлеба, когда ты действительно голоден.

Он знает только слова про это.

И поэтому всё, что он создаёт, — это красивая скорлупа без ядра.

История про стихи

Я попросил нейросеть написать стихи о любви.

Она выдала идеальный текст. Рифма — точная. Ритм — безупречный. Метафоры — глубокие. Образы — пронзительные. Если бы я не знал, что это машина, я бы решил, что читаю настоящего поэта.

Я отправил эти стихи знакомой, которая пишет стихи сама. Настоящие, выстраданные, от которых мурашки по коже.

Она прочитала и сказала: «Красиво. Очень красиво. Но знаешь, чего здесь нет?»

— Чего?

— Воздуха. Понимаешь, настоящие стихи — они дышат. Там между строк есть что-то, что автор не сказал, но чувствуется. А здесь — всё сказано. И ничего не чувствуется.

Я перечитал стихи. Она была права.

Там было всё, кроме главного. Кроме того, что нельзя написать, потому что это можно только пережить.

Парадокс эксперта

Есть ещё один важный момент, о котором мало говорят.

ИИ блестяще справляется с задачами, которые требуют эрудиции. Он помнит всё. Он не забывает. Он может за секунду выдать информацию из миллионов книг.

Но в реальной жизни экспертиза — это не только знание фактов.

Настоящий эксперт отличается от новичка не количеством информации в голове, а способностью видеть то, что не написано в учебниках. Чувствовать контекст. Улавливать нюансы. Понимать, что в этой конкретной ситуации правило не работает.

ИИ этого не умеет.

Он будет упорно применять правило, потому что правил много, а контекста — ноль. Он выдаст идеальное решение для средней температуры по больнице. Но в каждой конкретной палате пациент уникален.

Я разговаривал с врачом, который использует ИИ для диагностики. Он сказал интересную вещь:

«Нейросеть ставит правильный диагноз в восьми случаях из десяти. Это круто. Но она не замечает того, что замечаю я. Например, что пациент пришёл не один, а с женой, которая всё время перебивает. Или что он нервничает, когда говорит о работе. Или что у него глаза красные не от болезни, а от того, что он вчера плакал. Для диагноза это вроде не важно. Но для лечения — важно. Потому что лечить надо человека, а не набор симптомов».

Вот он — потолок ИИ. Он видит симптомы, но не видит человека.

Почему мы так боялись?

Интересный вопрос: если ИИ так ограничен, почему мы так его боялись?

Наверное, потому что путали интеллект с сознанием. Думали, что если машина научится считать быстрее нас, она станет умнее нас. Но ум — это не только счёт. Ум — это ещё и понимание того, зачем считать, что считать и стоит ли вообще это считать.

Алан Тьюринг, великий математик и отец искусственного интеллекта, придумал знаменитый тест: если машина может разговаривать так, что вы не отличите её от человека, значит, она мыслит.

Мы почти прошли этот тест. Уже есть люди, которые искренне влюбляются в ИИ, дружат с ИИ, доверяют ИИ больше, чем людям.

Но Тьюринг ошибался в одном. Способность имитировать разговор — это не то же самое, что способность мыслить. Попугай тоже имитирует речь. Но никто не называет попугая мыслителем.

Мы приняли имитацию за подлинник. И теперь переживаем великое разочарование.

Что умеем только мы?

Давайте составим честный список того, что ИИ не умеет и в обозримом будущем не научится.

Первое: понимать контекст.

ИИ знает миллион историй. Но он не знает вашей истории. Он не знает, почему вы сегодня грустны, хотя объективных причин нет. Он не знает, что для вас значит эта фотография на стене. Он не знает, что вы боитесь темноты с детства, потому что в пять лет вас напугал фильм ужасов.

Контекст — это то, что нельзя загрузить в базу данных. Это то, что накапливается годами, оседает в теле, в памяти, в привычках. Это ваша уникальная вселенная, в которой никто другой не жил.

Второе: чувствовать нюансы.

ИИ работает с категориями. Он знает, что такое «радость» и что такое «грусть». Но он не знает, что такое «грусть с оттенком светлой ностальгии, когда вспоминаешь детство». Или «радость пополам с тревогой, когда ребёнок впервые идёт в школу».

Человеческие чувства — это не смайлики. Это палитра с миллионами оттенков, каждый из которых уникален. ИИ видит только основные цвета.

Третье: рисковать.

ИИ никогда не пойдёт на неоправданный риск. Потому что риск — это когда ты не знаешь результата. А ИИ всегда просчитывает вероятности. Он выберет самый безопасный путь.

Но великие открытия, великие произведения, великие поступки — они всегда связаны с риском. С шагом в пустоту. С решением, которое нельзя обосновать логикой.

Гагарин полетел в космос не потому, что вероятность успеха была сто процентов. Он полетел, потому что верил. Потому что хотел. Потому что без этого не мог.

ИИ не может хотеть. Он может только вычислять.

Четвёртое: ошибаться.

Звучит странно, но умение ошибаться — это чисто человеческое свойство. И не просто ошибаться, а учиться на ошибках, расти через ошибки, становиться глубже благодаря ошибкам.

ИИ не ошибается. Он даёт сбой. Разница огромная.

Ошибка человека — это выбор, который оказался неудачным. Сбой машины — это непредвиденное стечение обстоятельств. В ошибке человека есть жизнь. В сбое машины — только баг.

Пятое: любить.

Мы уже говорили об этом в четвёртой главе. Любовь — это не набор правильных действий. Это готовность жертвовать, прощать, терпеть, оставаться, даже когда всё плохо.

ИИ может имитировать заботу. Он может писать нежные сообщения. Он может помнить о дне рождения. Но он не может любить. Потому что любовь требует свободы. Свободы не любить.

У машины нет свободы. У неё есть программа.

Что это значит для нас?

Великое разочарование в ИИ — это на самом деле великое освобождение.

Мы так долго боялись, что нас заменят, что не заметили простой вещи: заменить можно только функцию. Человека заменить нельзя.

Да, ИИ заменит копирайтеров, которые пишут шаблонные тексты. Заменит переводчиков, которые переводят инструкции. Заменит аналитиков, которые считают цифры. Заменит художников, которые рисуют открытки.

Но он не заменит того, кто пишет стихи, от которых хочется жить. Не заменит того, кто переводит поэзию, сохраняя ритм и дыхание. Не заменит того, кто видит в цифрах судьбы людей. Не заменит того, кто рисует боль, которую нельзя выразить словами.

Потому что всё это требует не интеллекта. Требует души.

А души у машин нет.

Вечер после разговора

Я вернулся домой после встречи с приятелем. Открыл ноутбук. Посмотрел на пустой экран.

И вдруг поймал себя на мысли: а ведь я сам иногда пишу как машина. Когда тороплюсь. Когда надо сдать текст. Когда не хочется вникать.

Я тоже становлюсь имитатором. Я тоже создаю красивые оболочки без содержания.

И если меня заменит ИИ, это будет справедливо. Потому что если я делаю то же, что и он, — зачем нужен я?

Наверное, главный вызов этой эпохи не в том, чтобы научиться использовать ИИ. А в том, чтобы перестать быть ИИ самим.

Чтобы в каждом тексте, каждом деле, каждом разговоре оставлять след своего живого присутствия.

Чтобы, прочитав моё письмо, человек сказал: «Это мог написать только он». А не: «Это мог написать кто угодно».

Маленькое обещание

Я дал себе слово после этого разговора.

Каждый день писать хотя бы одну вещь по-настоящему. Не для галочки. Не для отчёта. Не потому что надо. А потому что хочется.

Письмо другу. Заметку в дневник. Мысль, которая пришла в голову. Просто несколько строк, в которых будет моя интонация.

Это не спасёт мир. Это не остановит ИИ. Но это спасёт меня.

Потому что, пока я пишу по-настоящему, я остаюсь человеком.

А человек — это пока единственное, что машина не может повторить.