Згідно з рецензованим дослідженням, представленим цього тижня на Конференції з моделювання мови (COLM), якщо витратити лише десять хвилин на інструмент штучного інтелекту, це значно погіршує здатність людини зосереджуватися на складних завданнях і наполегливо виконувати їх.
Стаття під назвою «Допомога штучного інтелекту знижує наполегливість і шкодить незалежній продуктивності» була написана співавторами письменника та дослідника Браяна Крістіана, наукового співробітника Центру людського сумісного ШІ Каліфорнійського університету в Берклі, разом із вченими з Університету Карнегі-Меллона, Массачусетського технологічного інституту, Оксфордського університету та Каліфорнійського університету в Лос-Анджелесі. Попередній чернетковий варіант роботи був поширений навесні, але оновлена рецензована версія була представлена на конференції цього тижня, а дослідницький офіс Каліфорнійського університету в Берклі опублікував докладний підсумок 9 жовтня. For more context on this story, see our ongoing artificial intelligence updates.
Що виявили дослідники
Щоб виміряти, як швидко знижується концентрація уваги та наполегливість людей, команда провела серію рандомізованих контрольованих досліджень із 1222 учасниками, набраними онлайн.
У першому експерименті 354 учасникам було запропоновано розв’язати 15 задач на основні дроби. Одна група працювала без сторонньої допомоги, тоді як друга група мала відкритий ChatGPT збоку і могла вільно використовувати його для допомоги — або навіть прямо просити відповіді. Група з доступом ШІ почала точніше. Потім, після 12 проблем, дослідники забрали інструмент. Майже одразу точність у цій групі впала.
Схема повторилася з другою, більшою групою з 667 учасників. Коли допомогу штучного інтелекту було скасовано, користувачі штучного інтелекту дали неправильні відповіді або зовсім відмовилися, тоді як група, яка працювала без сторонньої допомоги, застрягла у виконанні завдання та завершила успішніше.
У третьому експерименті з 201 учасником математичні завдання були замінені підказкою SAT на розуміння прочитаного. Результат повторив попередні випробування: коли зник інструмент, зникли наполегливість і точність.
"Ви майже не можете попросити більш чіткої історії", - сказав Крістіан у коментарях, опублікованих UC Berkeley.
«Людська ціна» миттєвих відповідей
Дослідники стверджують, що проблема не в самому штучному інтелекті, а в типі допомоги, яку він надає за замовчуванням. Коли система дає відповіді за лічені секунди, користувачі звикають до такої швидкості, і все, що повільніше, починає здаватися неефективним. Довіра до цього інструменту також усуває те, що команда називає «продуктивною боротьбою» — активну взаємодію, яка допомагає людям виявити власні сильні сторони та інтереси.
«Ми створили ці системи, щоб бути корисними, але чи допомагають вони нам у спосіб, який насправді допомагає нам?» — сказав Крістіан. «Ми показали, за іронією долі, що вони часто допомагають нам способами, які ні до чого не допомагають».
Крістіан, чия книга 2020 року «Проблема вирівнювання» широко вважається однією з провідних доступних робіт про безпеку штучного інтелекту, сказав, що знахідка є доказом інтуїції, якої дотримуються багато людей. «Це вражаюча знахідка, але в певному сенсі вона постачає боєприпаси для історії, яку багато хто з нас начебто відчуває внутрішньо», — сказав він. «Я теж це переживаю».
Чому це важливо, крім дробів
Дослідження відбувається на тлі зростаючої стурбованості щодо когнітивного розвантаження в освіті. Відповідно до звіту Берклі, компанії Frontier AI самі визнали, що перенесення завдань на чат-ботів може зменшити базове розуміння користувача предмета. Крістіан пропонує можливе виправлення: відповіді штучного інтелекту за замовчуванням можуть бути більш повчальними — поводитися як репетитор, який направляє, а не як автовідповідач, який замінює.
«Нам потрібно працювати над майбутнім, у якому людські здібності будуть якомога більше розширені, а не витіснені», — сказав він.
Його турбота поширюється на професійні дослідження. Крістіан стурбований тим, що надмірна залежність від інструментів штучного інтелекту в науці може знищити звички, які роблять хорошого вченого: бути близько до даних, занурюватися в матеріал і тісно співпрацювати з командою. За його словами, дослідницька група з десяти осіб, яка генерує ідеї для прориву, може скоротитися до двох-трьох дослідників і чат-бота.
«Це не історія про дроби та проблеми з SAT», — сказав Крістіан. «Це те, що відбувається з людськими знаннями та людським досвідом від верху до низу, від учнів початкових класів до провідних експертів у світі».
Дослідження, яке увійшло в мейнстрім
Ранні висновки висвітлювали WIRED і Psychology Today, коли попередній проект з’явився навесні, а The New York Times опублікувала історію про статтю та подібне дослідження минулого тижня, згідно з UC Berkeley. Рецензована презентація в COLM — одному з головних місць дослідження мовного моделювання — тепер надає результату офіційну печатку.
Для педагогів і роботодавців повідомлення незручне, але конкретне: навіть короткий контакт із миттєвими відповідями ШІ помітно змінює поведінку людей, коли відповіді більше не доступні. А для компаній, які займаються штучним інтелектом, це дослідження посилює тиск на проектування систем, які навчають так само часто, як і розв’язують.
Крістіан, зі свого боку, тримає на столі зошит і пише в ньому щодня. Ця практика, як він сказав у Берклі, тримає його на землі — і не дає притупити його власну наукову перевагу.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
