Ученые назвали искусственный интеллект иллюзией
Специалисты компании Apple Computer пришли к выводу, что крупные языковые модели (LLM), такие, как ChatGPT, лишь демонстрируют видимость интеллекта, но на самом деле не имеют настоящей способности к логическому мышлению. Исследование ученых вызвало активное обсуждение в научном сообществе.
В основе исследования лежит концепция истинного интеллекта, которая предполагает то, что человек и другие разумные существа способны к логическому анализу, в ходе которого разделяется важная и несущественная информация. Авторы работы отмечают, что понимание сути вопроса, умение игнорировать несущественные детали и фокусировать свое внимание на главном — ключевые характеристики интеллекта. Команда ученых предположила, что языковые модели, несмотря на их способность обрабатывать огромные массивы текстов, лишены такой способности.
Для проверки своей гипотезы исследователи разработали эксперимент, в котором использовали вопросы для LLM с добавлением несущественной информации. Эти вопросы в прошлом уже применялись для тестирования языковых моделей, но в новой версии к ним добавляли лишние детали, которые не имели отношения к поставленной задачи. Основная цель эксперимента состояла в том, чтобы проверить, смогут ли LLM не реагировать отвлекающие элементы и давать правильные ответы.
Результаты эксперимента продемонстрировали, что языковые модели нередко фокусируются на лишних деталях, что приводит к ошибочным ответам. В тех случаях, когда модели ранее правильно отвечали на вопросы без лишней информации, добавление ненужных данных приводило к снижению качества их ответов. Это, как полагают эксперты, является признаком того, что LLM не обладают способностью к глубокому погружению в суть задачи и логическому мышлению.
03:45
03:24
15:50
