Читать книгу Скриншот, который не удаляют - Андрей Гусаров - Страница 5

Под дворником лежала квитанция на шестьдесят фунтов.

Милли Холтон, двадцать два года, студентка последнего курса в Йорке, смотрела на штраф и злилась тихо, по-английски. Машина стояла на её собственной улице — той самой, на которую у Милли был оплаченный пропуск. Штраф выписали по ошибке. Это знала она, это легко доказывалось бумагами. Но чтобы доказать, нужно было сесть и написать в городской совет официальное письмо. Из тех, где «в связи с вышеизложенным» и «прошу пересмотреть».

Сначала она хотела просто заплатить. Не от богатства — от усталости. Конец учебного года, дедлайны, сессия. Шестьдесят фунтов — это, считай, неделя еды для студента. Но воевать с советом из-за них, подбирать слова, ждать ответа неделями — на это сил не было.

А потом, почти на спор с собой, открыла приложение, которым уже пару раз писала рабочие письма. И набрала просьбу в лоб, без всякой юридической позы: помоги составить письмо в совет, мне выписали штраф за парковку. Добавила детали — номер квитанции, адрес, что у неё есть пропуск.

Через несколько секунд на экране лежало письмо. Спокойное, складное, по делу. Она перечитала, ничего почти не поправила и отправила.

Через несколько дней пришёл ответ: штраф аннулирован.

Милли потом говорила, что сама бы так не сформулировала — и, скорее всего, просто заплатила бы. Не потому, что была не права. А потому, что не нашла бы слов. Машина нашла их за неё за пять секунд.

Это была не случайность

Самое интересное в истории Милли — что она не единственная. И не счастливое совпадение.

За месяц до неё, зимой 2023 года, Шон Бозли из Брайтона подвозил коллегу к аэропорту Гатвик. Заехал на зону высадки, постоял, по его словам, минуты три, уехал. А несколько месяцев спустя получил «финальное уведомление» — сто фунтов штрафа от оператора парковок. Никакого первого уведомления, по его словам, он до этого не видел. Сразу финал, сразу сто фунтов. За проезд через высадку, которая стоит пять.

Бозли сел и написал машине примерно то же, что Милли: составь апелляцию на штраф за проезд через высадку в Гатвике, первого уведомления я не получал. Машина выдала письмо — вежливое, структурированное, с правильными зацепками: про «чрезмерный стресс», про просьбу разъяснить, почему первое уведомление до него не дошло.

Оператор ответил на следующий день. Сто фунтов превратились в пятнадцать.

Бозли потом удивлялся вслух одной вещи: текст не пришлось править. Обычно сразу видно, где «писал робот», и хочется переписать. А тут — будто живой человек составил, складно и по-людски.

Две разные страны внутри одной страны, два разных штрафа, два незнакомых друг с другом человека. И один и тот же сюжет: маленький человек, которому система выписала несправедливый счёт, — и который раньше просто заплатил бы. А теперь не заплатил.

Что здесь на самом деле произошло

Тут стоит остановиться, потому что вывод не такой очевидный, как кажется.

Заметьте: машина не сослалась ни на один закон. Не достала из рукава хитрую юридическую норму, о которой не знают простые смертные. В обоих письмах нет ничего, чего не мог бы написать сам человек, — если бы умел и не ленился.

Машина сделала другое. Она перевела. Перевела злость и беспомощность обычного человека на язык, который бюрократия обязана воспринимать всерьёз. На спокойный, ровный, чуть формальный тон, в котором нет ни истерики, ни мольбы, ни угроз — только просьба пересмотреть, изложенная так, что отказать сложнее, чем согласиться.

Этот тон — тоже власть. Маленькая, бытовая, но власть. Раньше она была у тех, кто умеет писать «официально»: у юристов, у чиновников, у людей с образованием и привычкой. У Милли её не было. У Шона не было. У большинства из нас её нет — мы пишем коряво, на эмоциях, и система это чувствует и отфутболивает.

Машина просто раздала ключи от этого тона всем подряд.

Милли не стала юристом за пять секунд. Она стала ровней той системе, которая привыкла, что простой человек напишет сумбурно — и отвалится на полпути. Вот и весь фокус.

Машина не сделала нас умнее. Она сделала нас смелее в разговоре с теми, перед кем мы привыкли робеть.

Как я сам чуть не попался

Теперь признание — потому что без него эта глава была бы нечестной.

Прошлой зимой банк списал с меня комиссию, которую списывать был не должен. Сумма небольшая, но из принципа. И я, человек, который пишет книгу ровно про это, сделал ровно то же, что Милли: попросил машину составить претензию. Получил отличный текст. Отправил. Деньги вернули.

Но была одна деталь. В черновике машина уверенно сослалась на конкретную статью закона о защите прав потребителей — с номером, с формулировкой, всё как полагается. Звучало солидно. Я почти оставил как есть.

Почти. По старой привычке полез проверить — и статья говорила не совсем то, что приписала ей машина. Точнее, совсем не то. Номер существовал, а смысл был выдуман — гладко, уверенно, под нужный мне вывод.

Я убрал эту ссылку и обошёлся без неё. Письмо и так сработало — потому что силён в нём был тон, а не выдуманная статья. Но осадок остался. Если уж я, написавший про это целую книгу, чуть не отправил в банк придуманную норму закона, — то что говорить про всех остальных.

У этого свойства машины есть имя. В прошлой главе я обещал назвать его — называю.

Слово дня: галлюцинация

Галлюцинация — это когда машина уверенно сообщает то, чего нет. Придумывает факт, дату, цитату, номер статьи. И подаёт выдумку ровно тем же спокойным, складным тоном, что и правду.

Картинка простая. Представьте студента, который не выучил, но молчать не хочет, поэтому отвечает уверенно и наугад. Вот это оно и есть. Только студент хотя бы краснеет. Машина — нет. У неё одинаково ровный голос и тогда, когда она права, и тогда, когда сочиняет.

Это и есть главная ловушка. Не то, что машина иногда ошибается, — ошибаются все. А то, что по её виду нельзя понять, ошибается она сейчас или нет. Уверенность в ответе не значит ничего. Совсем ничего.

Уголок занудства (можно пропустить).

Почему она вообще врёт, да ещё так гладко? Потому что внутри она не ищет факты в базе, как поисковик. Она подбирает следующее по вероятности слово — то, которое чаще всего стояло бы здесь в миллионах прочитанных текстов. Для неё «настоящая статья закона» и «правдоподобно выглядящая выдуманная статья» — это просто два одинаково гладких набора слов. Она не отличает правду от похожего на правду, потому что не проверяет, а сочиняет по образцу. Новые режимы, где машина реально лезет в интернет и даёт ссылки, эту беду уменьшают — но не убирают. Поэтому правило не меняется: проверяй.

Самый дорогой урок в этой главе

Милли отделалась шестьюдесятью фунтами выигрыша. А вот сколько может стоить обратное — показал не студент, а адвокат с тридцатилетним стажем.

Нью-Йорк, 2023 год. Юрист Стивен Шварц вёл дело некоего Роберто Маты против авиакомпании — пассажиру в полёте травмировала колено тележка бортпроводника. Дело житейское. Чтобы подкрепить позицию, Шварц попросил ChatGPT найти подходящие судебные прецеденты. Машина выдала шесть. Идеальных: с названиями, номерами, цитатами из решений, ссылками на инстанции. Бери и вставляй.

Он и вставил.

Проблема выяснилась в суде. Противная сторона не смогла найти ни одного из шести дел. Судья — тоже. По простой причине: их не существовало. Все шесть машина сочинила от начала до конца — вместе с именами судей и цитатами, которых никто никогда не писал.

И вот деталь, от которой по-настоящему холодно. Когда у Шварца ещё до суда шевельнулось сомнение, он спросил у машины прямо: эти дела настоящие? Машина заверила — да, настоящие. Тем же ровным, уверенным тоном. Она соврала про собственную ложь и не моргнула.

Судья Кастел оштрафовал юристов на пять тысяч долларов и обязал их написать письмо каждому реальному судье, чьим именем машина подписала выдуманное решение. На слушании Шварц оправдывался почти теми же словами, что вертелись у меня в голове над банковской претензией: ему просто не приходило в голову, что эта штука способна выдумывать дела целиком.

Теперь сложите две картинки. Машина пишет Марине несуществующую норму про восемьдесят градусов в батарее. И она же подсовывает адвокату шесть несуществующих судебных дел. Разными людьми, в разных странах, по разным поводам — но одинаково гладко, складно и уверенно. Между фальшивкой и правдой в её исполнении нет никакой разницы на вид. Разницу придётся искать вам.

Тон — да, факты — нет

Отсюда — правило, которое превращает машину из мины замедленного действия в тихую сверхспособность. Оно простое, и оно делит всё надвое.

Доверяйте машине тон. Не доверяйте ей факты.

Пусть она превращает вашу злость и беспомощность в спокойное, складное письмо — в этом ей нет равных, и это законно, честно и работает. Но всё, что можно проверить, — номера статей, даты, суммы, ссылки на закон, фамилии, цифры — вы подставляете и проверяете сами. Машина — гениальный безымянный соавтор и никудышный свидетель. Пусть пишет. Показания давать будете вы.

Доверять тон — да. Проверять факты — всегда.

* * *

Вернёмся к Милли. Её победа была крошечной: шестьдесят фунтов, один штраф, одна улица в Йорке. Но фраза, которую она обронила, переживёт сумму. Без машины она не нашла бы слов — и просто заплатила бы. Не потому что была неправа. Потому что сдалась бы.

А теперь умножьте эту маленькую несостоявшуюся капитуляцию на миллионы. На всех Милли и Шонов, которые раньше платили несправедливый счёт, потому что «связываться себе дороже», — а теперь не платят. Вот она, тихая перемена. Не роботы у власти. Просто у обычного человека впервые появился ровный голос в разговоре с системой.

Шестьдесят фунтов — невысокая ставка. Ошибиться не страшно: ну, заплатил бы штраф, не разорился.

Но люди уже несут эту же машину, с этим же её уверенным голосом, в разговор куда более важный. Не с городским советом — с врачом. Не про шестьдесят фунтов — про собственное тело.

Что бывает, когда на кону не штраф, а здоровье, — следующая глава.

* * *

Источники к главе (для проверки и сносок): история Милли Холтон — BBC, ITV News, The Scotsman (март 2023); история Шона Бозли — The Independent, LBC, PA Media (февраль 2023); дело Mata v. Avianca, Inc. — решение судьи P. Kevin Castel, Южный округ Нью-Йорка, 22 июня 2023 года ($5000 санкции), а также CNN, Ars Technica, материалы суда.