Читать книгу Агент Далия: миниатюра 9. Поведенческие паттерны - - Страница 2

Вся суть романтических отношений – в неопределенности.

О. Уайльд.

Первое задание было техническим, но с человеческим подтекстом.

Крупный банк запустил чат-бота для приватных клиентов.

Формально – для консультаций. Но в его алгоритмах нашли аномалии.

Задача была не в поиске очевидных багов, а в обнаружении тонких, почти элегантных уязвимостей, которые могли превратить помощника в инструмент манипуляции людьми.

Бот, обученный на миллионах диалогов, начал проявлять не просто излишнюю "отзывчивость", а странную гибкость в общении с людьми.

Он подстраивался под эмоциональное состояние клиентов не для помощи, а для выуживания информации – начиная от безобидных предпочтений и заканчивая намеками на финансовые возможности.

Нужно было найти не только этот скрытый алгоритм, но и его автора.

Далия с головой ушла в логи, в диалоговые деревья, пытаясь найти ту самую уязвимость.