Читать книгу Машинный и человеческий интеллект. Обновленное исследование - Зеро Эш - Страница 2

«Интеллект – это человеческий конструкт, отражающий способность достигать целей» («Теория интеллекта: концепции, модели, следствия», Майкл Э. Хохберг). Просто и понятно, но интеллект не только у людей, да и что такое интеллект?

"Основной функцией интеллекта является обоснование – процесс соединения естественного языка и абстрактных знаний с внутренним представлением реального мира в разумном существе, например, в человеке" ("Основы искусственного интеллекта", Бинг Лю). Хороший поинт, только у интеллекта много больше основных функций.

"Рассмотрим пространство всех возможных форм интеллекта, которое можно назвать пространством интеллекта" ("Определение и исследование интеллектуального пространства", Пол С. Розенблум). Интересная концепция, но даже представить себе такое "пространство всех возможных форм интеллекта" – та еще задача, близкая к невыполнимой.

"В проблеме одинокого банана, согласно статистике, бананы на изображениях появляются по несколько штук, два и больше, поэтому ИИ не мог представить себе одиночный банан, потому что данные и параметрическая настройка не позволяли ему рассмотреть такой подход в среднем"("Проблема одинокого банана. Или новое программирование: “говорящий” искусственный интеллект", Дэниел Хук). Ничего удивительного, машинные модели могут использовать только шаблоны из обучающих данных и не могут сгенерировать что-то совершенно новое. Говоришь "AGI" – дайте два.

"Альфагеометрия – это нейро-символическая система, состоящая из нейро-лингвистической модели и механизма символической дедукции, которые работают вместе для поиска доказательств сложных геометрических теорем" ("Альфагеометрия: система искусственного интеллекта олимпиадного уровня для изучения геометрии", Трие Тринь и Тханг Луонг). Сродни идее из “Думать быстро и медленно” (Дэниел Канеман), одна система обеспечивает быстрые, “интуитивные” идеи, а другая – более обдуманное, рациональное принятие решений. Интересная идея, комбинированный подход, дополнительно можно использовать генерацию и исполнение кода.

"Искусственный интеллект может отличаться от естественного, но оба они могут вдохновлять друг друга, что может потребовать создания новых основ математической физики" ("Восемь проблем в разработке теории интеллекта", Хайпин Хуан). Есть такая шутка: "хочешь разобраться как это работает – запрограммируй это".

"В течение 20 лет машины будут способны выполнять любую работу, которую может сделать человек" – написал Герберт Саймон в 1960 году, который  получил Нобелевскую премию по экономике и премию Тьюринга по информатике. Lol.

"Каждый интеллект специализирован, в том числе и человеческий. Интеллект – это набор навыков и способность быстро приобретать новые. Его нельзя измерить скалярной величиной. Никакой интеллект не может быть даже близко к общему, поэтому фраза "искусственный общий интеллект" не имеет смысла. Нет никаких сомнений в том, что машины со временем сравняются с человеческим интеллектом и превзойдут его во всех областях. Но даже эти системы не будут обладать "общим" интеллектом в любом разумном определении слова общий" (Ян Лекун). AI, AGI и т.п. – это просто маркетинг, не более того. Есть много вопросов, в каких областях и что могут делать машины. Компьютеры – это всего лишь инструменты, у них нет собственной воли. Некоторая модель воли возможна, но это будет всего-лишь модель, имитация. По-настоящему автономные системы, системы с самосознанием – это проекты очень далекого будущего.

"Люди не меняют своего мнения" (Дэниел Канеман). Спорное утверждение, есть и другие слова: "Люди думают одно, говорят второе и делают третье". Так что тут можно поменять?

"Пределы моего языка означают пределы моего мира" (Людвиг Витгенштейн). Это говорит о том, что язык играет ключевую роль во всем, интеллект и язык тесно связаны. Чтобы взломать интеллект, нужно взломать язык.

"Мой профессор по машинному обучению научил меня тому, что я никогда не забуду: Всегда фокусируйтесь на анализе и не беспокойтесь о коде. Копируйте код. Украдите его. Попросите кого-нибудь написать его за вас. Это не имеет значения. Кодировать легко. Знать, что кодить, – вот что действительно важно" (Сантьяго Вальдаррама). Это и отличает интеллект, понимать что важно, на чем следует сфокусироваться, а на что не стоит тратить ресурсы.

"ИИ можно считать, то, что имитирует когнитивные функции человека" (Игорь Ашманов). Неплохое определение, с учетом того, что у ИИ есть разные определения: сильный, слабый, общий ИИ и т.п. Можно самому дать еще одно определение, и оно будет иметь право на существование.

"Образование – это то, что остается после того, как человек забывает то, чему его учили в школе" (Альберт Эйнштейн).  Да, именно так, знания и интеллект развиваются только в работе. Неиспользуемые знания отмирают и забываются.

"Правда об эмоциональном интеллекте. Для тех, кто им обладает, он во многом предсказывает успех" ("Правда об эмоциональном интеллекте. Для тех, у кого он есть, он предсказывает успех во многих отношениях", Психология сегодня). ЭИ – неотъемлемая часть интеллекта, возможно даже более значимая.

"Способность понимать мир, понимать физический мир, способность запоминать и извлекать вещи, стойкая память, способность рассуждать и способность планировать – это четыре основные характеристики интеллектуальных систем"(Ян Лекун). Не очень хорошее определение, что это значит: понимать мир, рассуждать, планировать? Дать хорошее определение интеллектуальным системам непросто, заменить одни абстракции другими – без проблем.

"Как предсказание следующего слова в больших языковых моделях (LLM) приводит к удивительно интеллектуальному поведению? … Эти модели продемонстрировали необычные способности, выходящие за рамки простого владения языком" ("Фрактальные паттерны могут раскрыть интеллект при предсказании следующего токена", Ибрагим Алабдулмосин, Винь Кью. Тран, Мостафа Дехгани).  Нет ничего выдающегося, ничего интеллектуального, потому что все ответы заранее подготовлены вручную. Предсказание следующего токена – это просто способ вероятностного хранения и извлечения данных, тут нет никакого интеллекта. LLM можно рассматривать как интерактивный словарь или энциклопедию с расширенным языком запросов.

В своей работе 1950 года «Вычислительная техника и интеллект» Алан Тьюринг задал вопрос «Могут ли машины мыслить?» и ввел тест Тьюринга, чтобы проверить, могут ли машины достичь интеллекта человеческого уровня. Проблема в том, что можно создать эмуляцию мышления. Современные вычислительные системы способны обработать всю информацию, собранную человечеством, более того, для коррекции таких систем могут быть задействованы огромное количество людей-редакторов (AI-тренеров). Старый тест Тьюринга не имеет смысла, но можно разработать тест в котором не должно быть ранее известных типовых шаблонов рассуждений. Новый тест должен быть основан на способности генерировать и проверять гипотезы, строить вероятностные цепочки рассуждений, без возможности решить задачу перебором грубой силы.

"Если вы самый умный человек в комнате, вам нужно найти комнату поумнее" (Ранал Карри). Определенно, окружение имеет огромное значение, общение с более умными людьми, чем вы, сделает вас умнее.

"Эти 4 фразы говорят о том, что у вас более высокий эмоциональный интеллект (перефразируйте, задавайте вопросы): "Я слышу, что вы говорите…", "Позвольте мне понять правильно…", "Что вы при этом почувствовали?", "Что могло вас к этому подтолкнуть?" ("Если вы используете любую из этих 4 фраз, то ваш эмоциональный интеллект выше, чем у большинства",Адити Шрикант). Резюмирование, перефразирование и вопросы указывают на то, что вы активно участвуете в коммуникации, что дает вам основу для использования эмоционального интеллекта.

"Интеллект многомерен, и поэтому не существует единой точки, в которой ИИ превзойдет человеческий интеллект" (Педро Домингос. Профессор компьютерных наук в Калифорнийском университете и автор книги "Главный алгоритм"). Звучит неплохо, тем более, что нынешний ИИ – это просто кусочки человеческой работы, обернутые технологией. Нет способности генерировать что-то действительно новое.

"Показателем интеллекта является способность меняться" (Альберт Эйнштейн). Обязательное свойство интеллекта, без способности к изменениям интеллект невозможен.

“Интеллект – это способность адаптироваться к изменениям” (Стивен Хокинг). Перекликается с предыдущей цитатой Эйнштейна.