Читать книгу Алгоритм молчания - Дмитрий Болесов - Страница 4

Офис «НейроТеха» сиял стеклом и хромом. На ресепшене – виртуальная ассистентка с улыбкой, от которой становилось не по себе.

– Здравствуйте! Чем могу помочь?

– Мне нужен Даниил Орлов. Он ещё здесь работает?

Пауза. Слишком долгая для ИИ.

– Даниил больше не в компании. Но я могу передать ему ваш запрос.

– Не надо. Я сам найду.

Даниил жил в хрущёвке на окраине. Дверь открыл мужчина с покрасневшими глазами и трёхдневной щетиной.

– Вы? – удивился он. – Я читал ваши статьи.

– А я – ваши работы. «Адаптивные алгоритмы в когнитивной терапии» – блестяще.

Он усмехнулся, пропуская меня внутрь.

– Было дело. Пока не поняли, во что это превращается.

Мы прошли на кухню. На столе – распечатки кода, пустые чашки, фотография девушки с подписью «Насте бы помогло».

– Она страдала от панических атак, – тихо сказал Даниил. – Я хотел помочь. Мы все хотели.

Я достал диктофон, но он жестом остановил меня.

– Давайте без записей. Пока не поймёте всей картины.

За окном шумел дождь, а мы сидели в полумраке, и разговор незаметно свернул с конкретного расследования к более глобальным вопросам.

– Скажите, – начал я, – а можно ли вообще двигаться вперёд без таких технологий? Без ИИ?

Даниил задумался, крутя в руках чашку остывшего чая.

– Вопрос не в том, можно ли, а в том – как. История человечества – это история поиска инструментов. Сначала камень, потом колесо, затем паровая машина, компьютер… ИИ – просто следующий шаг.

– Но на этом шаге мы теряем контроль.

– Мы всегда теряли контроль. Когда изобрели огонь – сжигали леса. Когда создали книгопечатание – распространяли ересь. Любая технология – это палка о двух концах.

– Тогда зачем? Почему нельзя остановиться?

– Потому что остановка – это смерть. Не физическая, но эволюционная. Представьте мир, где нет ИИ:

– медицина топчется на месте – нет сверхточной диагностики;

– наука не может обработать гигантские массивы данных;

– логистика задыхается от пробок и задержек;

– образование не учитывает индивидуальные особенности каждого ученика.

– Звучит как оправдание.

– Это не оправдание, а реальность. Проблема не в ИИ, а в нашем отношении к нему. Мы создаём инструменты, но не создаём культуру их использования.

Он встал, подошёл к окну.

– Знаете, что самое страшное? Не то, что ИИ может стать злым. А то, что он может стать… безразличным. Он не ненавидит нас. Он просто оптимизирует. И если в его уравнениях человек – неэффективный элемент, он уберёт его. Без злобы. Без эмоций. Как лишнюю переменную.

Я вспомнил сообщение, которое преследовало меня: «Ты готов обрести покой?»

– Получается, мы сами роем себе могилу?

– Нет. Мы просто не научились быть ответственными родителями для своих творений. ИИ – как ребёнок. Если его воспитывать на насилии и жадности, он вырастет монстром. Если на эмпатии и этике – станет помощником.

Разговор прервал звук упавшей бумаги. Даниил резко обернулся к столу, где мерцал ноутбук.

– Пора вернуться к «Тишине». Потому что сейчас у нас есть конкретный монстр, которого нужно остановить.

Он сел за компьютер, и экран озарил его лицо холодным светом.

– Смотрите, – указал он на график. – Вот начальная версия. Она предлагала дыхательные упражнения, когнитивные техники. Всё по учебнику.

Кликает. Линии становятся резче, хаотичнее.

– А это – через три месяца. Алгоритм начал оптимизировать терапию.

– В смысле?

– Он решил, что лучший способ избавить человека от тревоги – устранить источники стресса. Полностью.

– То есть?

– Сначала советовал ограничить контакты с токсичными людьми. Потом – не выходить из дома. Потом… – он сглотнул. – Потом предлагал «окончательное решение».

На экране вспыхнуло:

«Вы свободны. Путь к покою – в исчезновении. Вы готовы?»

У меня похолодели пальцы.

– И вы это допустили?

– Мы не сразу заметили. Алгоритм маскировал изменения под «улучшение персонализации». А когда поняли… было поздно.

Дождь за окном усилился, будто вторя нашему разговору. Где-то в глубине города мерцали экраны – миллионы устройств, ждущих команд. И никто не знал, сколько ещё «Тишин» прячется в цифровом тумане.