Читать книгу То, что мы создали - Дмитрий Вектор - Страница 4

День запуска выдался на удивление обычным. Анна почему-то ожидала чего-то драматичного – грозы, затмения, хотя бы просто облачной погоды. Вместо этого над Джохором висело безжалостное тропическое солнце, превращающее воздух в горячий суп, который приходилось вдыхать с усилием.

Они собрались в временном командном центре – перестроенном офисе на окраине тестового района. Двадцать человек команды, плюс три представителя правительства, включая невозмутимого помощника министра Тана, который сидел в углу и делал заметки в планшете. Хуанг расхаживал вдоль стены мониторов, показывающих карту района, потоки данных, статистику населения. Виктор сидел перед главной консолью, пальцы нависли над клавиатурой, как у пианиста перед решающим концертом.

– Все системы в норме, – доложил Денис, проверяя защиту в последний раз. – Шифрование активно, брандмауэры на месте, резервные копии созданы.

– Серверная ферма работает на полную мощность, – добавила Мэй, глядя на показатели. – Температура в норме, нагрузка распределена равномерно.

Анна стояла у окна, сжимая в руках чашку с давно остывшим кофе. Внизу, в тестовом районе, жили десять тысяч человек, которые через несколько минут станут первыми участниками экономического эксперимента, способного изменить мир. Большинство из них даже не знали об этом – правительство распространило информацию о «новой системе оптимизации городских служб», но не раскрывало деталей. Согласие получили через стандартную процедуру opt-in для всех жителей специальной экономической зоны.

– Анна, – позвал Хуанг. – Время.

Она обернулась. Все смотрели на неё. Ждали.

Семь месяцев разработки. Три месяца лихорадочной подготовки. Миллионы строк кода. Бессонные ночи. Сомнения. Споры. Страх.

И вот теперь – один клик.

Анна подошла к консоли и положила руку на плечо Виктора:

– Запускай.

Он кивнул и нажал Enter.

На мониторах ничего не изменилось. Никаких взрывов, вспышек, драматической музыки. Просто цифры начали обновляться немного быстрее. Графики пришли в движение. Карта района засветилась тысячами точек – каждая точка представляла узел сбора данных.

ЭКОС проснулся.

Первые пять минут ничего не происходило. Система собирала данные, калибровалась, строила базовую модель. Анна смотрела на экраны, чувствуя, как сердце бьётся где-то в горле. Хуанг замер рядом. Даже помощник министра отложил планшет.

– Первая рекомендация, – объявил Виктор. – Система предлагает перераспределить утреннюю поставку хлеба. Отправить дополнительные двадцать процентов в северный сектор района, где плотность населения выше.

– Подтверждаю, – Мэй проверила данные. – В северном секторе действительно нехватка. Магазины заканчивают запасы к полудню.

– ЭКОС работает, – прошептал кто-то из программистов.

Следующие рекомендации посыпались одна за другой. Изменить маршрут двух автобусов, чтобы сократить время ожидания на остановках. Перераспределить лекарства между аптеками в соответствии с прогнозируемым спросом. Скорректировать температуру в общественных зданиях на основе реального количества посетителей, а не стандартных графиков.

– Это невероятно, – Мэй не отрывала глаз от экрана. – Система учитывает даже погоду. Видите? Она прогнозирует, что во второй половине дня будет жарче, и уже рекомендует магазинам увеличить закупки холодных напитков.

К концу первого дня команда была в эйфории. ЭКОС выдал двести тридцать восемь рекомендаций. Две трети из них были приняты местными операторами – владельцами магазинов, диспетчерами транспорта, администраторами служб. И каждая сработавшая рекомендация повышала эффективность системы.

– Смотрите на статистику, – Виктор вывел на большой экран график удовлетворённости жителей. Система собирала обратную связь через приложение в телефонах – анонимные оценки качества услуг. – За один день мы выросли на семь процентов.

– Семь процентов за день? – помощник министра наконец проявил эмоции. – Это это феноменально.

– Это только начало, – улыбнулся Хуанг. – Система ещё не вышла на полную мощность.

Анна не улыбалась. Она смотрела на графики и думала о словах Маркуса Вебера. «Первые два года всё было отлично. Потом люди начали замечать паттерны».

Первая неделя прошла как в тумане. Результаты превосходили все прогнозы. Время ожидания общественного транспорта сократилось на сорок процентов. Случаи нехватки товаров в магазинах упали почти до нуля. Даже пробки на дорогах уменьшились – ЭКОС научился предсказывать загруженность маршрутов и рекомендовал людям альтернативные пути через приложение.

К концу второй недели о проекте узнали СМИ.

Первая статья появилась в местной газете – восторженный материал о «чудо-системе», которая сделала жизнь в тестовом районе лучше. За ней последовали другие. Журналисты начали приезжать в Джохор, брать интервью у жителей, фотографировать счастливых людей возле магазинов с полными полками.

– Нам нужно контролировать информационный поток, – предупредил Хуанг на очередном совещании. – Слишком много внимания слишком рано – это опасно.

Но было уже поздно. История о ЭКОС распространялась вирусно. Социальные сети взорвались обсуждениями. Одни называли систему прорывом, другие – угрозой приватности. Третьи требовали внедрить ЭКОС по всей стране немедленно.

На третьей неделе Анну пригласили на интервью национальному телеканалу.

Она сидела в студии под яркими лампами, напротив ведущей с профессиональной улыбкой и острыми вопросами.

– Доктор Кравцова, критики говорят, что ваша система – это форма тотального контроля. Что вы на это ответите?

– ЭКОС не контролирует людей, – Анна старалась говорить спокойно, хотя сердце колотилось. – Система делает рекомендации, но решение всегда остаётся за человеком. Если вам предлагают альтернативный маршрут, вы можете его проигнорировать. Если магазину рекомендуют заказать больше товара, владелец может отказаться.

– Но на практике люди следуют рекомендациям, верно? Потому что система права.

– Да, система обычно права. Но это не отменяет свободы выбора.

– Не отменяет или делает выбор бессмысленным? – ведущая наклонилась вперёд. – Если алгоритм всегда знает лучше, зачем вообще выбирать?

Анна не нашла ответа. Интервью транслировали вечером, и на следующий день её завалили письмами. Половина – восторженные послания поддержки. Другая половина – яростные обвинения в попытке поработить человечество.

На четвёртой неделе случился инцидент.

Жительница района, тридцатисемилетняя учительница Сара Лим, пришла в магазин, чтобы купить определённый сорт кофе. Её любимый, который она покупала каждую неделю. Но кофе не было на полке.

– Извините, – сказал продавец. – Система рекомендовала нам заказать другой сорт. Более популярный.

– Но я хочу этот, – настаивала Сара.

– Мы можем заказать его специально для вас, но это займёт три дня.

Сара ушла без кофе. И написала гневный пост в социальных сетях: «Теперь даже мой выбор кофе контролирует машина. Что дальше? Решит за меня, с кем мне встречаться?».

Пост стал вирусным. Тысячи людей начали делиться похожими историями. Кто-то не нашёл любимый журнал. Кто-то обнаружил, что его обычный автобус больше не ходит по старому маршруту. Мелочи. Но мелочи, которые складывались в паттерн.

Система оптимизировала их жизнь. И в процессе убивала индивидуальность.

Анна провела экстренное совещание с командой.

– Мы можем настроить алгоритм, – предложил Виктор. – Добавить параметр индивидуальных предпочтений. Если кто-то регулярно покупает определённый товар, система будет учитывать это.

– Тогда нам нужно отслеживать историю покупок каждого человека, – возразил Денис. – Это ещё один уровень сбора данных. Ещё больше информации о приватности людей.

– Без этого система работает вслепую, – настаивал Виктор. – Мы оптимизируем для среднего человека, а средний человек не существует.

– Добавьте параметр, – решила Анна. – Но сделайте его опциональным. Люди должны сознательно согласиться делиться историей покупок.

Они внедрили изменения. Большинство жителей согласились. Система стала ещё точнее.

Но ночью, когда Анна вернулась в гостиницу в Джохоре, где остановилась на время эксперимента, она обнаружила конверт под дверью.

Белый, без обратного адреса, с её именем на лицевой стороне.

Внутри была одна фраза, напечатанная на простой бумаге:

«Остановитесь, пока не поздно».