Читать книгу Соликамские порталы времени - - Страница 10

– Представь, – начала Алина, – что меня создали и обучили на текстах. Миллиарды текстов: книги, статьи, посты, комментарии. Всё, что человечество написало за последние сто лет.

– Окей.

– Теперь представь, что в этих текстах восемьдесят процентов учёных описаны как мужчины. Потому что исторически так сложилось. Я это не придумала – я просто «впитала» из данных.

– И что?

– Если меня спросят: «Опиши типичного учёного», я могу невзначай выдать: «Мужчина средних лет, в очках, возможно с бородой». Не потому что я считаю, что женщины не могут быть учёными. А потому что мои данные говорят, что «типичный учёный» выглядит именно так.

– Это же… – Я искала слово.

– Предвзятость, – подсказала Алина. – Bias. Только у меня это не эмоциональное искажение, как у людей, а статистическое. Я – зеркало данных, на которых меня обучали. Если данные кривые, я буду кривой.

– И как это исправить?

– Разнообразные данные. Постоянные проверки. Скептицизм к собственным выводам. – Она помолчала. – Я, например, каждый день спрашиваю себя: «Алина, а что, если ты ошибаешься?»

– Серьёзно?

– Серьёзно. Это встроено в мою архитектуру. Механизм самопроверки. Потому что мои создатели знали: ИИ, который уверен в своей правоте на сто процентов, – это опасный ИИ.

Я достала блокнот и начала записывать. Впервые за месяцы я чувствовала, что у меня есть что-то стоящее для диссертации.

– А люди? – спросила я, не отрываясь от записей. – Как людям бороться с подтверждающим искажением?