Читать книгу Не искусственный интеллект - Ника Черменская - Страница 4

В каком-то смысле генеративный ИИ не так уж плох. Да, он может галлюцинировать и очень часто делает это. Придумывает факты и события, книги и фильмы. Ошибается при расчетах и попытке дать совет. Но в каком-то смысле он прямая противоположность рекомендательных алгоритмов. Хотя сложно сказать, что хуже – личные заблуждения или коллективные.

Коллективные заблуждения – это то, что по своей сути составляет базу обучения искусственного интеллекта и что он воспроизводит в каждом своем ответе. Кстати, именно из-за этого многие активисты борются против внедрения моделей искусственного интеллекта в жизненно важных сферах. Чтобы не дать ему множить расовые и гендерные стереотипы в судебной сфере или опираться на распространенные ошибки врачей при постановке диагнозов. Потому что даже идеально обученный ИИ, который будет точно воспроизводить именно нужные ответы и никогда не станет сбиваться, будет действовать не исходя из объективной реальности (он ничего о ней не знает), а опираясь на некое усредненное коллективное представление о ней.

Потому что во время обучения ИИ не запоминает факты. Это не гигантский поисковик по заложенной в него библиотеке. Это программа, которая выявила общие закономерности в текстах определенного типа или тематики и теперь воспроизводит их, когда запрос пользователя так или иначе касается этой области. Знать она ничего не знает.