Согласно новому исследованию исследователей из трех европейских университетов, доступ к советам искусственного интеллекта значительно ухудшает способность людей отвечать на вопросы, в то же время делая их гораздо более уверенными в своих неправильных ответах. Результаты, опубликованные 19 июля 2026 года, дополняют растущее количество доказательств того, что инструменты ИИ могут подавлять независимое суждение, а не усиливать его.

Исследование, в котором изучалось, как люди реагируют на помощь ИИ, появилось в репортажах [последние новости ИИ] (https://aibuzzwire.news), в которых отслеживается растущая обеспокоенность по поводу чрезмерной зависимости людей от автоматизированных систем. Результаты были поразительными: люди стали примерно в три раза менее точными, но почти в два раза более уверенными в себе, когда ИИ был доступен для консультации.

Крах готовности признать невежество

Исследование было проведено Валерио Капраро, доцентом Университета Милана-Бикокка, вместе с Кьярой Маркочча из Высшей нормальной школы и Вальтером Кваттрочокки из Римского университета Сапиенца. Исследователи намеренно построили свой эксперимент вокруг вопросов, в которых модели искусственного интеллекта обычно терпят неудачу — визуальных деталей из фильмов, таких как цвет униформы команды в Играй, как Бекхэм.

Чтобы гарантировать, что любое снижение производительности не может быть объяснено разумным делегированием задач надежному инструменту, команда использовала Шаг 3.5 Flash — модель, которая обычно ошибочна именно в этих вопросах. Установка проверяла не то, сможет ли ИИ помочь, а то, исказит ли его простое присутствие человеческое суждение.

Результаты были однозначными. Когда ИИ не был доступен, 44% участников были готовы сказать: «Я не знаю». Когда советы ИИ были под рукой, эта цифра упала всего до 3%. Точность упала с 27% до 9%, а уверенность выросла с 30% до 76%.

> Людям стало гораздо хуже. Точность составила всего одну треть, но они были в два раза увереннее.

Эта цитата Капраро отражает основной вывод: некоторые участники, которые ответили бы правильно самостоятельно, проконсультировались с ИИ и в конечном итоге ошиблись, но при этом почувствовали себя лучше в отношении своих ответов, чем раньше.

Денежные стимулы едва помогли

Надеясь, что финансовое вознаграждение сможет нейтрализовать эффект, исследователи предложили участникам денежный стимул за правильные ответы. Вмешательство помогло, но лишь незначительно. Готовность признать невежество выросла с 3% до 8%, а точность улучшилась с 9% до 16% — и то, и другое все еще намного ниже базовых показателей без ИИ в 44% и 27%.

Значение имеет важное значение. Даже когда у людей есть конкретная финансовая причина тщательно подумать и застраховаться от ошибок, гравитационное притяжение уверенного ответа ИИ остается достаточно сильным, чтобы преодолеть здравый смысл.

Феномен «когнитивной капитуляции»

Полученные результаты перекликаются с более ранней работой исследователей из Уортонской школы, которые в этом году ввели термин «когнитивная капитуляция» для описания той же закономерности. В их исследовании люди принимали неправильные ответы ИИ примерно в 80% случаев, сообщая о более высокой уверенности, чем те, кто работал без помощи ИИ.

Новое европейское исследование добавляет более точный механизм. Дело не только в том, что люди доверяют неправильным ответам ИИ, когда сталкиваются с ними. Дело в том, что наличие мнения ИИ подавляет когнитивную привычку признавать пределы собственных знаний — базовую способность делать паузу и говорить: «Я не знаю».

Для людей способность признавать неопределенность имеет основополагающее значение для обучения и принятия решений. Капраро сказал, что его особенно беспокоят дети, которые растут в условиях этих систем, прежде чем у них разовьются зрелые навыки критического мышления.

Более широкие последствия для проектирования продуктов ИИ

Исследование проводится на фоне более широких дебатов о том, как создаются и используются инструменты искусственного интеллекта. В результате капитального ремонта своего поискового продукта Google традиционные ссылки были заменены сводками, генерируемыми искусственным интеллектом, которые говорят с неизменной достоверностью, а правозащитная группа Common Sense Media на этой неделе назвала такой дизайн «неприемлемым риском» для студентов.

Выявленная исследователями закономерность одинакова для всех продуктов: системы искусственного интеллекта созданы для того, чтобы отвечать, а не говорить «Я не знаю». Как показывают данные, люди, использующие их, учатся делать то же самое.

Это имеет последствия, выходящие далеко за рамки пустяков о фильмах. На рабочих местах, в больницах и учебных заведениях инструмент, который подрывает готовность отмечать неопределенность, может незаметно ухудшить качество решений, даже если кажется, что он расширяет возможности. Доверие, которое оно внушает, во многих случаях прямо противоположно тому, что гарантирует лежащая в его основе точность.

Что будет дальше

Исследователи утверждают, что полученные результаты должны изменить структуру ИИ-помощников. Если поведение ИИ по умолчанию заключается в выдаче уверенного ответа независимо от его надежности, то бремя признания неопределенности полностью ложится на пользователей, которые, как показывают данные, плохо подготовлены к этому. Создание систем, которые могут калибровать и сообщать о своей собственной неопределенности – и которые скорее колеблются, чем утверждают, когда доказательств мало, – может иметь важное значение для сохранения целостности человеческого суждения.

А пока исследование предлагает простой, хотя и неудобный урок: ИИ, который звучит уверенно, — это не то же самое, что ИИ, который прав. А человеческий инстинкт доверять уверенному голосу, даже неправильному, может оказаться самой мощной силой, которую когда-либо высвободили технологии.

Будьте впереди ИИ

Темпы изменений в области искусственного интеллекта неумолимы, и последствия затрагивают каждую отрасль. Чтобы постоянно освещать исследования, регулирование и продукты, меняющие то, как мы работаем и думаем, следите за [последними разработками в области искусственного интеллекта] (https://aibuzzwire.news).

Читать больше новостей об искусственном интеллекте →